DeepSeek-V3.1
DeepSeek-V3.1 · DeepSeek 深度求索 · 发布 2025-08-21 · 已被替代 → DeepSeek-V3.2
思考与非思考合一，面向 agent 时代的首个 DeepSeek。
- 类型
- MoE
- 注意力
- MLA（kv_lora_rank 512 + rope 64）
- 层数
- 61
- 专家
- 256 · 激活 8 + 共享
- 隐藏维
- 7168
- 词表
- 129,280
结构同 V3；两阶段长上下文扩展（32K 630B token + 128K 209B token）；混合思考模板；128K。
完善中
| 精度 | 权重大小 | 说明 |
|---|---|---|
| BF16 | 1342 GB | 官方精度 |
| FP8 | 671 GB | |
| Q8 | 711 GB | |
| Q4 | 405 GB | GGUF Q4_K_M 或等效 |
- 消费级 24GB
- 不可行
- 单卡 80GB
- 不可行（单卡）
- 8×80GB 节点
- 官方 FP8 671 GB 权重 8×H100 可服务（需 FP8 引擎）；BF16 需 16×80GB；Q4 404 GB 8×80GB 可跑
KV Cache：MLA 压缩 KV：(512+64)×61×2 B ≈ 68.6 KiB/token；128K 上下文仅 8.6 GB。 ≈ 68.6 KiB/token
⚠ 能加载 ≠ 能在满上下文 / 高并发下舒服跑。标「估」的数字来自 计算器 公式或社区量化文件大小。
完善中
| 配置 | 量化 | 占用 / 显存 | 解码 tok/s | 预填充 tok/s | 最大上下文 |
|---|---|---|---|---|---|
| 8× RTX PRO 6000 Blackwell 96GB工作站 | FP8 | 681 GB / 768 GB | 211 | 12162 | 2.5M |
| 8× A100 80GB数据中心 | Q6_K估 | 547 GB / 640 GB | 297 | 15178 | 1.4M |
| 8× H20 96GB数据中心 | FP8 | 681 GB / 768 GB | 472 | 3600 | 2.5M |
| 8× 昇腾 Ascend 910B 64GB数据中心 | Q5_K_M估 | 473 GB / 512 GB | 270 | 13622 | 588K |
| 8× H100 80GB PCIe数据中心 | Q6_K估 | 547 GB / 640 GB | 292 | 36778 | 1.4M |
| 8× H100 80GB SXM数据中心 | Q6_K估 | 547 GB / 640 GB | 488 | 48114 | 1.4M |
| 4× AMD MI300X 192GB数据中心 | FP8 | 676 GB / 768 GB | 313 | 31792 | 2.7M |
| 4× H200 141GB数据中心 | Q6_K估 | 542 GB / 564 GB | 350 | 24057 | 334K |
| 4× B200 192GB数据中心 | FP8 | 676 GB / 768 GB | 472 | 54730 | 2.7M |
| Mac Studio M3 Ultra 512GB统一内存 | Q5_K_M估 | 465 GB / 490 GB | 16 | 347 | 385K |
单流（batch=1）估算：解码 ≈ 显存带宽 × 效率 ÷ 每 token 读取字节（激活参数 × 量化位宽 + KV）；预填充 ≈ FP16 算力 × 0.45 ÷ (2 × 激活参数)。多卡按张量并行、带宽求和 × 0.55。实际受引擎、驱动、PCIe 影响，误差 ±30%。反向查：我的卡能跑谁 →
编程LiveCodeBench 74.8%（思考）、SWE-bench Verified 66.0%（非思考 agent，官方）。
推理GPQA Diamond 80.1%、HLE 15.9%（思考，官方）。
数学AIME 2025 88.4%（思考，官方）。
AgentTerminal-bench 31.3%、BrowseComp 30.0%（官方）。
中文中文顶级。
思考模式：AIME 2025 88.4%、GPQA 80.1%、LiveCodeBench 74.8%、HLE 15.9%（官方）；非思考模式 SWE-bench Verified 66.0%。推理接近 R1-0528 但 token 用量更少，agent 能力是 DeepSeek 首次达到实用水平。
- 1.一套权重两种模式（思考 / 非思考），思考效率比 R1-0528 高
- 2.SWE-bench Verified 66.0%、Terminal-bench 31.3%（官方，agent 模式）
- 3.续训 840B token 扩展 128K；UE8M0 FP8 适配国产芯片
- 1.思考模式不支持工具调用（需切非思考）
- 2.部分用户反馈中文回答中夹杂「极」字等 token 异常
- 3.2025-09 即被 V3.1-Terminus 修正，再被 V3.2 取代
| 基准 | 分数 | 来源 | 日期 | 证据 |
|---|---|---|---|---|
| SWE-bench Verified真实仓库修 bug | 66% | DeepSeek-V3.1 模型卡（思考模式；LiveCodeBench 2408-2505） | 2025-08-21 | 厂商公布 |
| LiveCodeBench竞赛编程 | 74.8% | DeepSeek-V3.1 模型卡（思考模式；LiveCodeBench 2408-2505） | 2025-08-21 | 厂商公布 |
| GPQA Diamond研究生级科学问答 | 80.1% | DeepSeek-V3.1 模型卡（思考模式；LiveCodeBench 2408-2505） | 2025-08-21 | 厂商公布 |
| Humanity's Last Exam人类最后考试 | 15.9% | DeepSeek-V3.1 模型卡（思考模式；LiveCodeBench 2408-2505） | 2025-08-21 | 厂商公布 |
| AIME 2025美国数学邀请赛 | 88.4% | DeepSeek-V3.1 模型卡（思考模式；LiveCodeBench 2408-2505） | 2025-08-21 | 厂商公布 |
| Terminal-Bench终端 agent | 31.3% | DeepSeek-V3.1 模型卡（思考模式；LiveCodeBench 2408-2505） | 2025-08-21 | 厂商公布 |
更新 2026-08-28 · 排名供选型参考，基准会饱和、会泄漏、会过时。