开源权重可下推理模型·可关多模态可商用 · MIT
MiMo-V2.5
小米 MiMo-V2.5 · Xiaomi 小米 · 发布 2026-04-22 · 当前代
小米 310B 全模态 MoE，15B 激活，MIT 许可，1M 上下文。
参数
310B 总 / 15B 激活
MOE
上下文
1M
价格 / 1M tok
$0.12 / $0.24
第三方托管常见价（OpenR · 2026-08-28
最低可跑
Mac Studio M3 Ultra
Q5_K_M · 216 GB · ≈35 tok/s
Arena Elo—
AA 综合指数38
2026-08-28
代码—
GPQA 推理84.9
2026-08-28
架构简图
- 类型
- MoE
- 注意力
- 混合：39 层 128 滑窗 + 9 层全注意力（5:1），64 Q 头，QK 192 / V 128
- 层数
- 48
- 专家
- 256 · 激活 8
- 隐藏维
- 4096
- 词表
- 152,576
1 稠密 + 47 MoE 层；729M 视觉 + 261M 音频编码器，全模态输入。约 48T token FP8 预训练。
完善中
| 精度 | 权重大小 | 说明 |
|---|---|---|
| BF16 | 620 GB估 | 官方精度 |
| FP8 | 310 GB估 | |
| Q8 | 329 GB估 | |
| Q4 | 180 GB估 | GGUF Q4_K_M 或等效 |
- 消费级 24GB
- 未评估
- 单卡 80GB
- 不可行
- 8×80GB 节点
- FP8 多卡
⚠ 能加载 ≠ 能在满上下文 / 高并发下舒服跑。标「估」的数字来自 计算器 公式或社区量化文件大小。
完善中
硬件配置与预估吞吐
最低可跑（8K 上下文）
Mac Studio M3 Ultra 256GB
≈¥50,000 · 合计 ≈¥50,000 · 统一内存
量化
Q5_K_M
解码
35 tok/s
最大上下文
177K
推荐配置（≥Q8 · 32K 上下文 · ≥15 tok/s）
Mac Studio M3 Ultra 512GB
≈¥75,000 · 合计 ≈¥75,000 · 统一内存
量化
FP8
解码
24 tok/s
最大上下文
2.5M
| 配置 | 量化 | 占用 / 显存 | 解码 tok/s | 预填充 tok/s | 最大上下文 |
|---|---|---|---|---|---|
| 8× L4 24GB工作站 | Q4_K_M | 191 GB / 192 GB | 133 | 7200 | 17K |
| 4× RTX A6000 48GB工作站 | Q4_K_M | 186 GB / 192 GB | 171 | 4620 | 51K |
| 4× RTX 6000 Ada 48GB工作站 | Q4_K_M | 186 GB / 192 GB | 213 | 5460 | 51K |
| 4× L40S 48GB工作站 | Q4_K_M | 186 GB / 192 GB | 192 | 5460 | 51K |
| 2× RTX PRO 6000 Blackwell 96GB工作站 | Q4_K_M | 184 GB / 192 GB | 199 | 7500 | 68K |
| 8× A10 24GB数据中心 | Q4_K_M | 191 GB / 192 GB | 266 | 7440 | 17K |
| 8× A100 40GB数据中心 | Q6_K估 | 259 GB / 320 GB | 518 | 37440 | 444K |
| 4× A100 80GB数据中心 | FP8 | 315 GB / 320 GB | 287 | 18720 | 74K |
| 2× H20 96GB数据中心 | Q4_K_M | 184 GB / 192 GB | 444 | 2220 | 68K |
| 4× 昇腾 Ascend 910B 64GB数据中心 | Q6_K估 | 254 GB / 256 GB | 267 | 16800 | 23K |
| 4× H100 80GB PCIe数据中心 | FP8 | 315 GB / 320 GB | 282 | 45360 | 74K |
| 4× H100 80GB SXM数据中心 | FP8 | 315 GB / 320 GB | 472 | 59340 | 74K |
| AMD MI300X 192GB数据中心 | Q4_K_M | 182 GB / 192 GB | 348 | 19605 | 77K |
| 2× H200 141GB数据中心 | Q6_K估 | 252 GB / 282 GB | 400 | 29670 | 225K |
| B200 192GB数据中心 | Q4_K_M | 182 GB / 192 GB | 525 | 33750 | 77K |
| 2× DGX Spark 128GB统一内存 | Q5_K_M估 | 217 GB / 240 GB | 24 | 1860 | 169K |
| Mac Studio M3 Ultra 256GB统一内存 | Q5_K_M估 | 216 GB / 240 GB | 35 | 855 | 177K |
| Mac Studio M3 Ultra 512GB统一内存 | FP8 | 312 GB / 490 GB | 26 | 855 | 2.5M |
单流（batch=1）估算：解码 ≈ 显存带宽 × 效率 ÷ 每 token 读取字节（激活参数 × 量化位宽 + KV）；预填充 ≈ FP16 算力 × 0.45 ÷ (2 × 激活参数)。多卡按张量并行、带宽求和 × 0.55。实际受引擎、驱动、PCIe 影响，误差 ±30%。反向查：我的卡能跑谁 →
编程Terminal-Bench 2.0 65.8、SWE-bench Pro 56.1（官方）。
多模态图片 / 视频 / 音频理解。
中文强，国产模型。
逻辑能力
工程型推理强（TB 2.0 65.8），考试型推理官方数字缺；更强的 V2.5-Pro（1T-A42B）AA 43。
亮点
- 1.MIT 许可，文本 / 图 / 视频 / 音频全模态输入
- 2.Terminal-Bench 2.0 65.8、SWE-bench Pro 56.1（官方）
- 3.1M 上下文，滑窗 5:1 混合注意力省 KV；AA 智能指数 38
坑
- 1.310B 总参，多卡部署
- 2.官方未给 GPQA / AIME / SWE-bench Verified 数字
- 3.Arena 文本榜未见 V2.5（Pro 版 1468）
适合：全模态 agent · 超长上下文低成本 API
不适合：单机部署 · 需要权威推理评测背书的场景
| 基准 | 分数 | 来源 | 日期 | 证据 |
|---|---|---|---|---|
| Artificial Analysis Intelligence IndexAA 综合指数 | 38 | Artificial Analysis Intelligence Index v3 | 2026-08-28 | 独立复测 |
| Artificial Analysis Intelligence IndexAA 综合指数 | 38 | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| GPQA Diamond研究生级科学问答 | 84.9% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| Humanity's Last Exam人类最后考试 | 27.2% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| SciCode科学计算编程 | 43.1% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| Terminal-Bench Hard终端 agent（AA 困难子集） | 41.7% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| τ²-Bench Telecom工具调用 agent（电信域） | 90.6% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| MMMU-Pro多模态理解（Pro） | 75.4% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| IFBench指令遵循 | 67.1% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| Terminal-Bench终端 agent | 63.7% | Artificial Analysis · Terminal-Bench 2.1 | 2026-08-28 | 独立复测 |
| τ³-Bench Banking工具调用 agent（银行域） | 8.7% | Artificial Analysis · τ³-Bench Banking | 2026-08-28 | 独立复测 |
| LMArena Chinese Elo中文人类偏好 Elo | 1483 | LMArena Text · Chinese (style control) | 2026-08-28 | 独立复测 |
更新 2026-08-28 · 排名供选型参考，基准会饱和、会泄漏、会过时。