开源权重可下推理模型·可关已被替代可商用 · MIT
GLM-4.5
智谱 GLM-4.5 · Z.ai 智谱 · 发布 2025-07-28 · 已被替代 → GLM-4.6
智谱首个面向 agent 的旗舰 MoE，MIT 许可。
参数
355B 总 / 32B 激活
MOE
上下文
128K
输出 96K
价格 / 1M tok
$0.60 / $2.20
Z.ai 官方 API（gl · 2026-08-28
最低可跑
Mac Studio M3 Ultra
Q4_K_M · 221 GB · ≈19 tok/s
Arena Elo—
AA 综合指数—
真实仓库修 bug64.2
2025-07-28
GPQA 推理79.1
2025-07-28
架构简图
- 类型
- MoE
- 注意力
- GQA（96 Q 头 / 8 KV 头）+ QK-Norm
- 层数
- 92
- 专家
- 160 · 激活 8 + 共享
- 隐藏维
- 5120
- 词表
- 151,552
深而窄的 MoE（92 层）；MTP 层；混合思考；128K。
完善中
| 精度 | 权重大小 | 说明 |
|---|---|---|
| BF16 | 710 GB | 官方精度 |
| FP8 | 355 GB | |
| Q8 | 376 GB | |
| Q4 | 217 GB | GGUF Q4_K_M 或等效 |
- 消费级 24GB
- 不可行
- 单卡 80GB
- 不可行（单卡）；Q4 216 GB 需 4×80GB
- 8×80GB 节点
- BF16 710 GB 需 16×80GB；FP8 8×H100 可服务
KV Cache：8×128×2×92×2 B = 368 KiB/token。 ≈ 368 KiB/token
⚠ 能加载 ≠ 能在满上下文 / 高并发下舒服跑。标「估」的数字来自 计算器 公式或社区量化文件大小。
完善中
硬件配置与预估吞吐
最低可跑（8K 上下文）
Mac Studio M3 Ultra 256GB
≈¥50,000 · 合计 ≈¥50,000 · 统一内存
量化
Q4_K_M
解码
19 tok/s
最大上下文
62K
推荐配置（≥Q8 · 32K 上下文 · ≥15 tok/s）
4 × RTX PRO 6000 Blackwell 96GB
≈¥70,000 × 4 · 合计 ≈¥280,000 · 工作站
量化
FP8
解码
103 tok/s
最大上下文
135K
| 配置 | 量化 | 占用 / 显存 | 解码 tok/s | 预填充 tok/s | 最大上下文 |
|---|---|---|---|---|---|
| 8× L40S 48GB工作站 | FP8 | 366 GB / 384 GB | 113 | 5119 | 108K |
| 4× RTX PRO 6000 Blackwell 96GB工作站 | FP8 | 361 GB / 384 GB | 118 | 7031 | 135K |
| 8× A100 40GB数据中心 | Q6_K估 | 296 GB / 320 GB | 239 | 17550 | 73K |
| 4× A100 80GB数据中心 | Q6_K估 | 292 GB / 320 GB | 156 | 8775 | 87K |
| 4× H20 96GB数据中心 | FP8 | 361 GB / 384 GB | 262 | 2081 | 135K |
| 4× 昇腾 Ascend 910B 64GB数据中心 | Q5_K_M估 | 253 GB / 256 GB | 140 | 7875 | 17K |
| 4× H100 80GB PCIe数据中心 | Q6_K估 | 292 GB / 320 GB | 153 | 21263 | 87K |
| 4× H100 80GB SXM数据中心 | Q6_K估 | 292 GB / 320 GB | 257 | 27816 | 87K |
| 2× AMD MI300X 192GB数据中心 | FP8 | 359 GB / 384 GB | 174 | 18380 | 148K |
| 2× H200 141GB数据中心 | Q5_K_M估 | 250 GB / 282 GB | 210 | 13908 | 96K |
| 2× B200 192GB数据中心 | FP8 | 359 GB / 384 GB | 262 | 31641 | 148K |
| 2× DGX Spark 128GB统一内存 | Q4_K_M | 222 GB / 240 GB | 13 | 872 | 59K |
| Mac Studio M3 Ultra 256GB统一内存 | Q4_K_M | 221 GB / 240 GB | 19 | 401 | 62K |
| Mac Studio M3 Ultra 512GB统一内存 | FP8 | 358 GB / 490 GB | 12 | 401 | 745K |
单流（batch=1）估算：解码 ≈ 显存带宽 × 效率 ÷ 每 token 读取字节（激活参数 × 量化位宽 + KV）；预填充 ≈ FP16 算力 × 0.45 ÷ (2 × 激活参数)。多卡按张量并行、带宽求和 × 0.55。实际受引擎、驱动、PCIe 影响，误差 ±30%。反向查：我的卡能跑谁 →
编程SWE-bench Verified 64.2%、LiveCodeBench 72.9%（官方）。
推理GPQA 79.1%、HLE 14.4%（官方）。
数学AIME 2025 91.0%（官方）。
AgentTerminal-bench 37.5%、TAU-bench retail 79.7 / airline 60.4、BFCL v3 77.8（官方）。
中文中文顶级。
逻辑能力
思考模式：AIME 2025 91.0%、GPQA 79.1%、HLE 14.4%、LiveCodeBench 72.9%（官方博客）。agent 与工具调用是主打，TAU-bench 零售 79.7 / 航空 60.4。
亮点
- 1.SWE-bench Verified 64.2%、Terminal-bench 37.5%（官方）
- 2.MIT 许可，思考 / 非思考可切换
- 3.Claude Code / Cline 等 agent 工具适配好
坑
- 1.355B 需多卡，本地用 Air 版
- 2.思考模式 token 消耗大
- 3.发布两月后被 4.6 取代（200K 上下文更强 agent）
适合：代码 agent 后端 · 中文 agent 平台
不适合：单机部署
| 基准 | 分数 | 来源 | 日期 | 证据 |
|---|---|---|---|---|
| SWE-bench Verified真实仓库修 bug | 64.2% | GLM-4.5 技术报告表4/5（LiveCodeBench 2407-2501；仅报告 AIME 24）（未核实项已移除） | 2025-07-28 | 厂商公布 |
| LiveCodeBench竞赛编程 | 72.9% | GLM-4.5 技术报告表4/5（LiveCodeBench 2407-2501；仅报告 AIME 24）（未核实项已移除） | 2025-07-28 | 厂商公布 |
| GPQA Diamond研究生级科学问答 | 79.1% | GLM-4.5 技术报告表4/5（LiveCodeBench 2407-2501；仅报告 AIME 24）（未核实项已移除） | 2025-07-28 | 厂商公布 |
| Humanity's Last Exam人类最后考试 | 14.4% | GLM-4.5 技术报告表4/5（LiveCodeBench 2407-2501；仅报告 AIME 24）（未核实项已移除） | 2025-07-28 | 厂商公布 |
| Terminal-Bench终端 agent | 37.5% | GLM-4.5 技术报告表4/5（LiveCodeBench 2407-2501；仅报告 AIME 24）（未核实项已移除） | 2025-07-28 | 厂商公布 |
更新 2026-08-28 · 排名供选型参考，基准会饱和、会泄漏、会过时。