MiMo-V2.6-Flash
小米 MiMo-V2.6-Flash · Xiaomi 小米 · 发布 2026-09-22 · 当前代
$0.14 / $0.28 的 309B 全模态 MoE,MIT 许可,Terminal-Bench 2.1 87.6。
- 类型
- MoE
- 注意力
- 混合:39 层 128 滑窗 + 9 层全注意力,64 Q 头(SWA 8 KV / 全注意力 4 KV),QK 192 / V 128
- 层数
- 48
- 专家
- 256 · 激活 8
- 隐藏维
- 4096
- 词表
- 未披露
首层全注意力 + 稠密 FFN,其余层交替 SWA / 全注意力,均为无共享专家的稀疏 MoE。与 Pro 共用 681M MiMo ViT 视觉编码器与 308M + 127M 音频编码器,全模态输入。5 层 SWA MTP 投机解码器(窗口 1024)。
完善中
| 精度 | 权重大小 | 说明 |
|---|---|---|
| BF16 | — | 暂无 |
| FP8 | — | 暂无 |
| Q8 | — | 暂无 |
| Q4 | — | 暂无 |
- 消费级 24GB
- 未评估
- 单卡 80GB
- 不可行
- 8×80GB 节点
- 官方 SGLang 示例为 tp8 / dp2,vLLM 示例 tp4
KV Cache:官方未公布自建显存需求,只给了推理并行参数
⚠ 能加载 ≠ 能在满上下文 / 高并发下舒服跑。标「估」的数字来自 计算器 公式或社区量化文件大小。
完善中
| 配置 | 量化 | 占用 / 显存 | 解码 tok/s | 预填充 tok/s | 最大上下文 |
|---|---|---|---|---|---|
| 8× L4 24GB工作站 | Q4_K_M估 | 191 GB / 192 GB | 119 | 7200 | 11K |
| 4× RTX A6000 48GB工作站 | Q4_K_M估 | 186 GB / 192 GB | 152 | 4620 | 28K |
| 4× RTX 6000 Ada 48GB工作站 | Q4_K_M估 | 186 GB / 192 GB | 190 | 5460 | 28K |
| 4× L40S 48GB工作站 | Q4_K_M估 | 186 GB / 192 GB | 171 | 5460 | 28K |
| 2× RTX PRO 6000 Blackwell 96GB工作站 | Q4_K_M估 | 184 GB / 192 GB | 177 | 7500 | 37K |
| 8× A10 24GB数据中心 | Q4_K_M估 | 191 GB / 192 GB | 237 | 7440 | 11K |
| 8× A100 40GB数据中心 | FP8估 | 320 GB / 320 GB | 422 | 37440 | 10K |
| 4× A100 80GB数据中心 | FP8估 | 315 GB / 320 GB | 277 | 18720 | 44K |
| 2× H20 96GB数据中心 | Q4_K_M估 | 184 GB / 192 GB | 396 | 2220 | 37K |
| 4× 昇腾 Ascend 910B 64GB数据中心 | Q6_K估 | 254 GB / 256 GB | 244 | 16800 | 14K |
| 4× H100 80GB PCIe数据中心 | FP8估 | 315 GB / 320 GB | 271 | 45360 | 44K |
| 4× H100 80GB SXM数据中心 | FP8估 | 315 GB / 320 GB | 455 | 59340 | 44K |
| AMD MI300X 192GB数据中心 | Q4_K_M估 | 183 GB / 192 GB | 310 | 19605 | 41K |
| 2× H200 141GB数据中心 | Q6_K估 | 252 GB / 282 GB | 366 | 29670 | 115K |
| B200 192GB数据中心 | Q4_K_M估 | 183 GB / 192 GB | 468 | 33750 | 41K |
| 2× DGX Spark 128GB统一内存 | Q5_K_M估 | 218 GB / 240 GB | 21 | 1860 | 87K |
| Mac Studio M3 Ultra 256GB统一内存 | Q5_K_M估 | 217 GB / 240 GB | 32 | 855 | 91K |
| Mac Studio M3 Ultra 512GB统一内存 | FP8估 | 311 GB / 490 GB | 25 | 855 | 1.2M |
单流(batch=1)估算:解码 ≈ 显存带宽 × 效率 ÷ 每 token 读取字节(激活参数 × 量化位宽 + KV);预填充 ≈ FP16 算力 × 0.45 ÷ (2 × 激活参数)。多卡按张量并行、带宽求和 × 0.55。实际受引擎、驱动、PCIe 影响,误差 ±30%。反向查:我的卡能跑谁 →
编程DeepSWE v1.1 67.9、MiMo Code Bench 61.2、ProgramBench 26.0(官方模型卡)。
AgentTerminal-Bench 2.1 87.6、Terminal-Bench 4.0 28.8、AutomationBench v1.0.6 52.3、Toolathlon-Verified 73.6、OSWorld-Verified 80.8、JobBench 61.2、Agents' Last Exam 27.6(官方模型卡)。
多模态MiMo VisualCoding 71.5(官方自建基准);图 / 视频 / 音频原生输入。
中文强,国产模型,中文文档齐全。
定位是 V2.6 的效率档,能力形状与 Pro 同源、整体低一档:Terminal-Bench 2.1 87.6 对 Pro 的 89.9、DeepSWE v1.1 67.9 对 71.9、Toolathlon-Verified 73.6 对 76.9、JobBench 61.2 对 62.0——多数差距在 2~4 分内,价格却是 Pro 的三分之一左右。真正拉开的是安全攻防与更难口径:ExploitBench 25.3 对 47.9、Terminal-Bench 4.0 28.8 对 34.9。官方口径里它「全面超过 MiMo-V2.5-Pro」,对照表中 V2.5-Pro 的 Terminal-Bench 4.0 仅 1.5、AutomationBench 仅 16.0,这一代的跃升主要来自大规模混合 RL 而非换底座。
- 1.MIT 许可,309B 总参 / 15B 激活,全模态输入 + 1M 上下文,$0.14 / $0.28
- 2.Terminal-Bench 2.1 87.6、AutomationBench v1.0.6 52.3、OSWorld-Verified 80.8,官方称全面超过上代旗舰 MiMo-V2.5-Pro(65.2 / 16.0)
- 3.CyberGym 95.1 比 Pro 的 94.0 还高(官方自建口径);DeepSWE v1.1 从 SFT 基线 58.4 经 RL 提到 72.6
- 1.Terminal-Bench 4.0 只有 28.8,比 Pro 的 34.9 更低,离 Claude Opus 5 的 49.0 差距很大
- 2.攻防开发是明显短板:ExploitBench 25.3、ExploitGym 6.0、SEC Bench Pro 47.5,均远低于 Pro(47.9 / 17.8 / 66.3)
- 3.309B 总参依然要多卡,官方只给 tp8 / tp4 的推理参数,未公布自建显存需求
- 4.官方没给 GDPval-AA 数字(表里为空),也没给 GPQA / AIME / SWE-bench Verified 这类考试型基准
- 5.整张对比表由小米自己跑,属官方声明;AA 智能指数只公布了 Pro(46),Flash 的独立指数未见
| 基准 | 分数 | 来源 | 日期 | 证据 |
|---|---|---|---|---|
| Terminal-Bench终端 agent | 87.6% | MiMo-V2.6-Flash 模型卡(Terminal-Bench 2.1) | 2026-09-29 | 厂商公布 |
更新 2026-09-29 · 排名供选型参考,基准会饱和、会泄漏、会过时。