Hunyuan Hy4 (preview)
腾讯混元 Hy4 预览版 · Tencent 腾讯 · 发布 2026-08-28 · Preview
Apache-2.0 的 770B 前沿级开源权重，许可最宽松、门槛也最高。
- 类型
- MoE
- 注意力
- 未披露
- 层数
- 未披露
- 专家
- 未披露
- 隐藏维
- 未披露
- 词表
- 未披露
稀疏 MoE，770B 总参数 / 49B 激活，1M+ 上下文，纯文本。官方同时发布 BF16 与 FP8 变体及量化工具；其自研 Sherry 量化把权重从约 1.5 TB 压到 214 GB（2.38 bit/权重）。腾讯称 Hy4 参与了自身开发，自主优化推理栈带来 31.8% 吞吐提升（厂商单方面说法，无第三方验证）。
完善中
| 精度 | 权重大小 | 说明 |
|---|---|---|
| BF16 | 1540 GB估 | 官方精度 |
| FP8 | 770 GB估 | |
| Q8 | — | 暂无 |
| Q4 | — | 暂无 |
- 消费级 24GB
- 不可行
- 单卡 80GB
- 不可行
- 8×80GB 节点
- FP8 约 770 GB，需 8 卡 B300 或 16 卡 B200 级整机；Sherry 2.38-bit 量化约 214 GB
⚠ 能加载 ≠ 能在满上下文 / 高并发下舒服跑。标「估」的数字来自 计算器 公式或社区量化文件大小。
完善中
| 配置 | 量化 | 占用 / 显存 | 解码 tok/s | 预填充 tok/s | 最大上下文 |
|---|---|---|---|---|---|
| 8× RTX PRO 6000 Blackwell 96GB工作站 | Q6_K估 | 626 GB / 768 GB | 201 | 9184 | 未建模 |
| 8× A100 80GB数据中心 | Q6_K估 | 626 GB / 640 GB | 229 | 11461 | 未建模 |
| 8× H20 96GB数据中心 | Q6_K估 | 626 GB / 768 GB | 449 | 2718 | 未建模 |
| 8× 昇腾 Ascend 910B 64GB数据中心 | Q4_K_M估 | 456 GB / 512 GB | 248 | 10286 | 未建模 |
| 8× H100 80GB PCIe数据中心 | Q6_K估 | 626 GB / 640 GB | 224 | 27771 | 未建模 |
| 8× H100 80GB SXM数据中心 | Q6_K估 | 626 GB / 640 GB | 376 | 36331 | 未建模 |
| 4× AMD MI300X 192GB数据中心 | Q6_K估 | 621 GB / 768 GB | 297 | 24006 | 未建模 |
| 4× H200 141GB数据中心 | Q5_K_M估 | 536 GB / 564 GB | 312 | 18165 | 未建模 |
| 4× B200 192GB数据中心 | Q6_K估 | 621 GB / 768 GB | 449 | 41327 | 未建模 |
| Mac Studio M3 Ultra 512GB统一内存 | Q4_K_M估 | 448 GB / 490 GB | 14 | 262 | 未建模 |
单流（batch=1）估算：解码 ≈ 显存带宽 × 效率 ÷ 每 token 读取字节（激活参数 × 量化位宽 + KV）；预填充 ≈ FP16 算力 × 0.45 ÷ (2 × 激活参数)。多卡按张量并行、带宽求和 × 0.55。实际受引擎、驱动、PCIe 影响，误差 ±30%。反向查：我的卡能跑谁 →
编程腾讯内部 203 项工程任务盲测 2.99 / 4.00（厂商自测，同对照 GLM-5.3 为 2.92）。
中文中文顶级（腾讯自研，产品线含 WorkBuddy / CodeBuddy / 元宝 / ima）。
目前公开可验证的能力证据主要是腾讯自己的 203 项工程任务盲测（2.99 / 4.00，同对照下 GLM-5.3 为 2.92），第三方复测尚未跟上，因此本条目不给横向排名。真正的差异化在许可与规模的组合：同规模级别里，Kimi K3 与 GLM-5.3 都换成了带营收门槛的自定义许可，Hy4 是 Apache-2.0。对能自建整机、且在意许可洁净度的团队，这是当前唯一的前沿规模选项。
- 1.Apache-2.0 + 770B / 49B 激活 + 1M+ 上下文，是目前许可最宽松的前沿规模开源模型
- 2.BF16 与 FP8 同时发布，另带量化工具；Sherry 量化把 1.5 TB 压到 214 GB（2.38 bit/权重）
- 3.腾讯内部 203 项工程任务盲测得 2.99 / 4.00（同一对照里 GLM-5.3 为 2.92）
- 4.镜像齐全：Hugging Face、ModelScope、GitCode、CNB；Transformers / vLLM / SGLang 都有部署路径
- 1.是 preview 而非正式版，且纯文本无多模态
- 2.自建门槛极高：FP8 约 770 GB，要 8 卡 B300 或 16 卡 B200 级整机，没有可用的小尺寸版本
- 3.官方公告未给出 API 定价，第三方报道的数字本站不收；能力数据目前主要是腾讯自家盲测，缺第三方复测
- 4.2-bit 量化虽可用，但社区经验是会掉多语言等能力，上生产前要按自己的用例实测
- 5.「Hy4 参与自身开发、自主优化推理栈带来 31.8% 吞吐提升」是厂商单方面说法，无第三方验证
暂无带来源的分数。
更新 2026-09-28 · 排名供选型参考，基准会饱和、会泄漏、会过时。