MiniMax-M2
MiniMax M2 · MiniMax · 发布 2025-10-27 · 已被替代 → MiniMax-M3
10B 激活的 agent 编程模型，AA 指数开源第一（发布时）。
- 类型
- MoE
- 注意力
- GQA（48 Q 头 / 8 KV 头）
- 层数
- 62
- 专家
- 256 · 激活 8
- 隐藏维
- 3072
- 词表
- 200,064
放弃 M1 的 Lightning Attention，回到全注意力 GQA + MoE。思考内容用 <think> 标签交错输出，官方要求保留历史思考。
类型：MoE，230B 总 / 10B 激活。
- 62 层，隐藏维 3072，词表 200,064
- 专家：256 个，每 token 激活 8 个
- GQA：48 Q 头 / 8 KV 头，head_dim 128
- 全注意力（放弃 M1 的 Lightning Attention 混合）
- 上下文 204,800
参考：MiniMax-M2 GitHub / HF 模型卡。
| 精度 | 权重大小 | 说明 |
|---|---|---|
| BF16 | 460 GB估 | 官方精度 |
| FP8 | 230 GB估 | |
| Q8 | — | 暂无 |
| Q4 | 135 GB估 | GGUF Q4_K_M 或等效 |
- 消费级 24GB
- 不可行
- 单卡 80GB
- 不可行（Q4 135 GB）
- 8×80GB 节点
- BF16 460 GB 可部署，官方推荐 4×H100 FP8 起
KV Cache：8 KV 头 × 128 × 2 × 62 层 × 2 B = 248 KiB/token。 ≈ 248 KiB/token
⚠ 能加载 ≠ 能在满上下文 / 高并发下舒服跑。标「估」的数字来自 计算器 公式或社区量化文件大小。
| 精度 | 权重大小 | 参考显存 |
|---|---|---|
| BF16 | ≈ 460 GB | 8×80GB |
| FP8 | ≈ 230 GB | 4×80GB |
| Q4 | ≈ 135 GB（估） | 2×80GB |
KV Cache：≈ 248 KiB/token，128K 上下文 ≈ 31 GB。
参考配置：
- 24GB / 80GB：不可行
- 4×H100：FP8，官方推荐起步
- 8×H100：BF16 舒适
| 配置 | 量化 | 占用 / 显存 | 解码 tok/s | 预填充 tok/s | 最大上下文 |
|---|---|---|---|---|---|
| 8× L4 24GB工作站 | Q5_K_M估 | 170 GB / 192 GB | 147 | 10800 | 98K |
| 4× RTX A6000 48GB工作站 | Q6_K估 | 191 GB / 192 GB | 168 | 6930 | 13K |
| 4× RTX 6000 Ada 48GB工作站 | Q6_K估 | 191 GB / 192 GB | 210 | 8190 | 13K |
| 4× L40S 48GB工作站 | Q6_K估 | 191 GB / 192 GB | 189 | 8190 | 13K |
| 2× RTX PRO 6000 Blackwell 96GB工作站 | Q6_K估 | 188 GB / 192 GB | 196 | 11250 | 23K |
| 8× A10 24GB数据中心 | Q5_K_M估 | 170 GB / 192 GB | 294 | 11160 | 98K |
| 4× A100 40GB数据中心 | Q4_K_M | 142 GB / 160 GB | 434 | 28080 | 83K |
| 2× A100 80GB数据中心 | Q4_K_M | 139 GB / 160 GB | 285 | 14040 | 93K |
| 2× H20 96GB数据中心 | Q6_K估 | 188 GB / 192 GB | 436 | 3330 | 23K |
| 4× 昇腾 Ascend 910B 64GB数据中心 | FP8 | 236 GB / 256 GB | 319 | 25200 | 175K |
| 2× H100 80GB PCIe数据中心 | Q4_K_M | 139 GB / 160 GB | 279 | 34020 | 93K |
| 2× H100 80GB SXM数据中心 | Q4_K_M | 139 GB / 160 GB | 468 | 44505 | 93K |
| AMD MI300X 192GB数据中心 | Q6_K估 | 187 GB / 192 GB | 342 | 29408 | 28K |
| H200 141GB数据中心 | Q4_K_M | 138 GB / 141 GB | 396 | 22253 | 20K |
| B200 192GB数据中心 | Q6_K估 | 187 GB / 192 GB | 516 | 50625 | 28K |
| 2× DGX Spark 128GB统一内存 | FP8 | 233 GB / 240 GB | 25 | 2790 | 63K |
| Mac Studio M3 Ultra 256GB统一内存 | FP8 | 232 GB / 240 GB | 37 | 1283 | 73K |
| Mac Studio M3 Ultra 512GB统一内存 | BF16 | 463 GB / 490 GB | 19 | 1283 | 119K |
单流（batch=1）估算：解码 ≈ 显存带宽 × 效率 ÷ 每 token 读取字节（激活参数 × 量化位宽 + KV）；预填充 ≈ FP16 算力 × 0.45 ÷ (2 × 激活参数)。多卡按张量并行、带宽求和 × 0.55。实际受引擎、驱动、PCIe 影响，误差 ±30%。反向查：我的卡能跑谁 →
编程SWE-bench Verified 69.4%、Multi-SWE 36.2%（官方）。
推理GPQA Diamond 78%、HLE 31.8%（工具，官方）。
数学AIME 2025 78%（官方）。
AgentTerminal-Bench 46.3%、τ²-bench 77.2%、BrowseComp 44.0%（官方）。
中文中文良好。
工程型推理为主：训练重点是「多文件编辑 → 运行 → 修复」的 agent 循环，BrowseComp 44%。考试型推理（AIME 78%）在开源里中游。思考不可关闭。常见问题：过度依赖工具反馈，无工具纯推理时较弱。
- 1.10B 激活带来的低延迟，Artificial Analysis 指数 61 为发布时开源最高
- 2.SWE-bench Verified 69.4%、Terminal-Bench 46.3%，编程 agent 表现接近闭源中档
- 3.MIT 许可，API 价 $0.3 / $1.2 约为 Claude Sonnet 的 8%
- 1.<think> 交错输出必须完整回传历史，否则多轮 agent 质量明显下降
- 2.230B 总参数，Q4 也要 135 GB，自建门槛不低
- 3.知识与写作类任务弱于同期 GLM-4.6 / DeepSeek
| 基准 | 分数 | 来源 | 日期 | 证据 |
|---|---|---|---|---|
| LMArena Text Elo人类偏好 Elo | 1395 | LMArena Text (style control) | 2025-12-20 | 独立复测 |
| SWE-bench Verified真实仓库修 bug | 69.4% | MiniMax-M2 模型卡 | 2025-12-20 | 厂商公布 |
| GPQA Diamond研究生级科学问答 | 78% | MiniMax-M2 模型卡 | 2025-12-20 | 厂商公布 |
| AIME 2025美国数学邀请赛 | 78% | MiniMax-M2 模型卡 | 2025-12-20 | 厂商公布 |
| τ²-bench工具调用 agent | 77.2% | MiniMax-M2 模型卡 | 2025-12-20 | 厂商公布 |
| Terminal-Bench终端 agent | 46.3% | MiniMax-M2 模型卡 | 2025-12-20 | 厂商公布 |
更新 2025-12-20 · 排名供选型参考，基准会饱和、会泄漏、会过时。