开源权重可下推理模型·可关可商用 · Apache-2.0
Hunyuan Hy3
腾讯混元 Hy3 · Tencent 腾讯 · 发布 2026-07-06 · 当前代
腾讯 295B MoE 开源，SWE-bench 78%、GPQA 90。
参数
295B 总 / 21B 激活
MOE
上下文
256K
价格 / 1M tok
$0.14 / $0.58
第三方托管常见价（OpenR · 2026-08-28
最低可跑
Mac Studio M3 Ultra
Q6_K · 240 GB · ≈21 tok/s
Arena Elo1456
2026-08-28
AA 综合指数42
2026-08-28
真实仓库修 bug78
2026-08-28
GPQA 推理89.7
2026-08-28
架构简图
- 类型
- MoE
- 注意力
- GQA（64 Q / 8 KV）
- 层数
- 80
- 专家
- 192 · 激活 8 + 共享
- 隐藏维
- 4096
- 词表
- 120,832
另带 3.8B 多 token 预测层（MTP）。快慢思考混合。
完善中
| 精度 | 权重大小 | 说明 |
|---|---|---|
| BF16 | 598 GB估 | 官方精度 |
| FP8 | 299 GB估 | |
| Q8 | 318 GB估 | |
| Q4 | 173 GB估 | GGUF Q4_K_M 或等效 |
- 消费级 24GB
- 未评估
- 单卡 80GB
- 不可行
- 8×80GB 节点
- FP8 8 卡（官方推荐 H20-3e 等大显存卡）
⚠ 能加载 ≠ 能在满上下文 / 高并发下舒服跑。标「估」的数字来自 计算器 公式或社区量化文件大小。
完善中
硬件配置与预估吞吐
最低可跑（8K 上下文）
Mac Studio M3 Ultra 256GB
≈¥50,000 · 合计 ≈¥50,000 · 统一内存
量化
Q6_K
解码
21 tok/s
最大上下文
9K
推荐配置（≥Q8 · 32K 上下文 · ≥15 tok/s）
Mac Studio M3 Ultra 512GB
≈¥75,000 · 合计 ≈¥75,000 · 统一内存
量化
FP8
解码
16 tok/s
最大上下文
1.2M
| 配置 | 量化 | 占用 / 显存 | 解码 tok/s | 预填充 tok/s | 最大上下文 |
|---|---|---|---|---|---|
| 8× L4 24GB工作站 | Q4_K_M | 185 GB / 192 GB | 89 | 5143 | 30K |
| 4× RTX A6000 48GB工作站 | Q4_K_M | 180 GB / 192 GB | 114 | 3300 | 45K |
| 4× RTX 6000 Ada 48GB工作站 | Q4_K_M | 180 GB / 192 GB | 142 | 3900 | 45K |
| 4× L40S 48GB工作站 | Q4_K_M | 180 GB / 192 GB | 128 | 3900 | 45K |
| 2× RTX PRO 6000 Blackwell 96GB工作站 | Q4_K_M | 178 GB / 192 GB | 133 | 5357 | 53K |
| 8× A10 24GB数据中心 | Q4_K_M | 185 GB / 192 GB | 178 | 5314 | 30K |
| 8× A100 40GB数据中心 | FP8 | 310 GB / 320 GB | 306 | 26743 | 73K |
| 4× A100 80GB数据中心 | FP8 | 305 GB / 320 GB | 201 | 13371 | 104K |
| 2× H20 96GB数据中心 | Q4_K_M | 178 GB / 192 GB | 296 | 1586 | 53K |
| 4× 昇腾 Ascend 910B 64GB数据中心 | Q6_K估 | 243 GB / 256 GB | 181 | 12000 | 49K |
| 4× H100 80GB PCIe数据中心 | FP8 | 305 GB / 320 GB | 197 | 32400 | 104K |
| 4× H100 80GB SXM数据中心 | FP8 | 305 GB / 320 GB | 330 | 42386 | 104K |
| AMD MI300X 192GB数据中心 | Q4_K_M | 177 GB / 192 GB | 232 | 14004 | 57K |
| 2× H200 141GB数据中心 | Q6_K估 | 241 GB / 282 GB | 271 | 21193 | 140K |
| B200 192GB数据中心 | Q4_K_M | 177 GB / 192 GB | 350 | 24107 | 57K |
| 2× DGX Spark 128GB统一内存 | Q5_K_M估 | 208 GB / 240 GB | 16 | 1329 | 109K |
| Mac Studio M3 Ultra 256GB统一内存 | Q6_K估 | 240 GB / 240 GB | 21 | 611 | 9K |
| Mac Studio M3 Ultra 512GB统一内存 | FP8 | 301 GB / 490 GB | 18 | 611 | 1.2M |
单流（batch=1）估算：解码 ≈ 显存带宽 × 效率 ÷ 每 token 读取字节（激活参数 × 量化位宽 + KV）；预填充 ≈ FP16 算力 × 0.45 ÷ (2 × 激活参数)。多卡按张量并行、带宽求和 × 0.55。实际受引擎、驱动、PCIe 影响，误差 ±30%。反向查：我的卡能跑谁 →
编程SWE-bench Verified 78%、Terminal-Bench 2.1 71.7%（官方）。
推理GPQA Diamond 90.4%（官方）。
中文强，国产模型主场。
逻辑能力
考试型推理顶级（GPQA 90.4），工程型推理同样一流（SWE-bench 78%、TB 71.7%），AA 智能指数 42 居开源前列。
亮点
- 1.SWE-bench Verified 78%、GPQA Diamond 90.4%、Terminal-Bench 2.1 71.7%（官方）
- 2.Apache-2.0，21B 激活，256K 上下文
- 3.国产模型，中文与微信 / 腾讯生态原生
坑
- 1.295B 需 8 卡，官方还建议 H20-3e 级大显存
- 2.Arena 1456 排 59 名，对话体验不及榜单数字
- 3.文本 only，无视觉
适合：国产合规编程 / 办公 agent · 腾讯云部署
不适合：单机部署 · 多模态
| 基准 | 分数 | 来源 | 日期 | 证据 |
|---|---|---|---|---|
| LMArena Text Elo人类偏好 Elo | 1456 | LMArena Text (style control) | 2026-08-28 | 独立复测 |
| Artificial Analysis Intelligence IndexAA 综合指数 | 42 | Artificial Analysis Intelligence Index v3 | 2026-08-28 | 独立复测 |
| SWE-bench Verified真实仓库修 bug | 78% | Hy3 模型卡 | 2026-08-28 | 厂商公布 |
| GPQA Diamond研究生级科学问答 | 90.4% | Hy3 模型卡 | 2026-08-28 | 厂商公布 |
| Terminal-Bench终端 agent | 71.7% | Hy3 模型卡 | 2026-08-28 | 厂商公布 |
| Artificial Analysis Intelligence IndexAA 综合指数 | 42 | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| GPQA Diamond研究生级科学问答 | 89.7% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| Humanity's Last Exam人类最后考试 | 33.5% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| SciCode科学计算编程 | 47.6% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| Terminal-Bench终端 agent | 64.4% | Artificial Analysis · Terminal-Bench 2.1 | 2026-08-28 | 独立复测 |
| τ³-Bench Banking工具调用 agent（银行域） | 22.9% | Artificial Analysis · τ³-Bench Banking | 2026-08-28 | 独立复测 |
| LMArena Chinese Elo中文人类偏好 Elo | 1463 | LMArena Text · Chinese (style control) | 2026-08-28 | 独立复测 |
更新 2026-08-28 · 排名供选型参考，基准会饱和、会泄漏、会过时。