开源权重可下已被替代限制许可 · Modified MIT
Kimi K2 Instruct (0905)
月之暗面 K2（0905） · Moonshot AI 月之暗面 · 发布 2025-09-05 · 已被替代 → Kimi K2.6
非思考的 1T agent 模型，编程 agent 与前端生成强。
参数
1T 总 / 32B 激活
MOE
上下文
256K
价格 / 1M tok
$0.60 / $2.50
Moonshot 开放平台 · 2025-12-20
最低可跑
8× A100
Q4_K_M · 590 GB · ≈469 tok/s
Arena Elo1420
2025-12-20
AA 综合指数—
真实仓库修 bug69.2
2025-12-20
GPQA 推理75.1
2025-12-20
架构简图
- 类型
- MoE
- 注意力
- MLA
- 层数
- 61
- 专家
- 384 · 激活 8 + 共享
- 隐藏维
- 7168
- 词表
- 未披露
完善中
| 精度 | 权重大小 | 说明 |
|---|---|---|
| BF16 | 2000 GB估 | 官方精度 |
| FP8 | 1000 GB估 | |
| Q8 | — | 暂无 |
| Q4 | 580 GB估 | GGUF Q4_K_M 或等效 |
- 消费级 24GB
- 未评估
- 单卡 80GB
- 未评估
- 8×80GB 节点
- FP8 需 16×H100 或 8×H200
⚠ 能加载 ≠ 能在满上下文 / 高并发下舒服跑。标「估」的数字来自 计算器 公式或社区量化文件大小。
完善中
硬件配置与预估吞吐
最低可跑（8K 上下文）
8 × A100 80GB
云 ≈$1.5/h × 8 · 合计 ≈¥480,000 · 数据中心
量化
Q4_K_M
解码
469 tok/s
最大上下文
737K
推荐配置（≥Q8 · 32K 上下文 · ≥15 tok/s）
8 × H200 141GB
云 ≈$3.5/h × 8 · 合计 ≈¥2,080,000 · 数据中心
量化
FP8
解码
637 tok/s
最大上下文
3.4M
| 配置 | 量化 | 占用 / 显存 | 解码 tok/s | 预填充 tok/s | 最大上下文 |
|---|---|---|---|---|---|
| 8× RTX PRO 6000 Blackwell 96GB工作站 | Q5_K_M估 | 700 GB / 768 GB | 348 | 14063 | 1001K |
| 8× A100 80GB数据中心 | Q4_K_M | 590 GB / 640 GB | 469 | 17550 | 737K |
| 8× H20 96GB数据中心 | Q5_K_M估 | 700 GB / 768 GB | 776 | 4163 | 1001K |
| 8× H100 80GB PCIe数据中心 | Q4_K_M | 590 GB / 640 GB | 460 | 42525 | 737K |
| 8× H100 80GB SXM数据中心 | Q4_K_M | 590 GB / 640 GB | 770 | 55631 | 737K |
| 4× AMD MI300X 192GB数据中心 | Q5_K_M估 | 695 GB / 768 GB | 514 | 36759 | 1.0M |
| 8× H200 141GB数据中心 | FP8 | 1010 GB / 1128 GB | 654 | 55631 | 3.4M |
| 4× B200 192GB数据中心 | Q5_K_M估 | 695 GB / 768 GB | 776 | 63281 | 1.0M |
单流（batch=1）估算：解码 ≈ 显存带宽 × 效率 ÷ 每 token 读取字节（激活参数 × 量化位宽 + KV）；预填充 ≈ FP16 算力 × 0.45 ÷ (2 × 激活参数)。多卡按张量并行、带宽求和 × 0.55。实际受引擎、驱动、PCIe 影响，误差 ±30%。反向查：我的卡能跑谁 →
完善中
逻辑能力
工程型推理强，无思考链，考试型推理中等。
亮点
- 1.SWE-bench Verified 69.2%（官方）
- 2.256K 上下文
- 3.非思考：响应快
坑
- 1.1T 体量
- 2.Modified MIT 标注条款
- 3.深度推理用 Thinking 版
适合：编程 agent · 前端生成
不适合：任何单机
| 基准 | 分数 | 来源 | 日期 | 证据 |
|---|---|---|---|---|
| LMArena Text Elo人类偏好 Elo | 1420 | LMArena Text (style control) | 2025-12-20 | 独立复测 |
| SWE-bench Verified真实仓库修 bug | 69.2% | Kimi K2 模型卡 | 2025-12-20 | 厂商公布 |
| GPQA Diamond研究生级科学问答 | 75.1% | Kimi K2 模型卡 | 2025-12-20 | 厂商公布 |
| τ²-bench工具调用 agent | 70% | Kimi K2 模型卡 | 2025-12-20 | 厂商公布 |
| Terminal-Bench终端 agent | 44.5% | Kimi K2 模型卡 | 2025-12-20 | 厂商公布 |
更新 2025-12-20 · 排名供选型参考，基准会饱和、会泄漏、会过时。