开源权重可下推理模型·可关已被替代可商用 · Apache-2.0
Qwen3-235B-A22B
通义千问 3 · 235B-A22B（原版） · Alibaba 阿里巴巴 · 发布 2025-04-29 · 已被替代 → Qwen3-235B-A22B-Thinking-2507
Qwen3 首发旗舰，一套权重同时支持思考与非思考。
参数
235B 总 / 22B 激活
MOE
上下文
128K
输出 32K
价格 / 1M tok
$0.13 / $0.60
第三方托管常见价（DeepI · 2026-08-28
最低可跑
Mac Studio M3 Ultra
FP8 · 237 GB · ≈18 tok/s
Arena Elo—
AA 综合指数—
竞赛编程70.7
2025-04-29
GPQA 推理71.1
2025-04-29
架构简图
- 类型
- MoE
- 注意力
- GQA（64 Q 头 / 4 KV 头）+ QK-Norm
- 层数
- 94
- 专家
- 128 · 激活 8
- 隐藏维
- 4096
- 词表
- 151,936
原版混合思考（/think 与 /no_think 同一权重）；原生 32K，YaRN 至 128K；128 专家 top-8，无共享专家。
完善中
| 精度 | 权重大小 | 说明 |
|---|---|---|
| BF16 | 470 GB | 官方精度 |
| FP8 | 235 GB | |
| Q8 | 249 GB | |
| Q4 | 142 GB | GGUF Q4_K_M 或等效 |
- 消费级 24GB
- 不可行
- 单卡 80GB
- 不可行（单卡）；Q4 142 GB 需 2×80GB
- 8×80GB 节点
- BF16 470 GB 或 FP8 235 GB 高并发
KV Cache：4×128×2×94×2 B = 188 KiB/token，MoE 大模型中最省。 ≈ 188 KiB/token
⚠ 能加载 ≠ 能在满上下文 / 高并发下舒服跑。标「估」的数字来自 计算器 公式或社区量化文件大小。
完善中
硬件配置与预估吞吐
最低可跑（8K 上下文）
Mac Studio M3 Ultra 256GB
≈¥50,000 · 合计 ≈¥50,000 · 统一内存
量化
FP8
解码
18 tok/s
最大上下文
41K
推荐配置（≥Q8 · 32K 上下文 · ≥15 tok/s）
Mac Studio M3 Ultra 256GB
≈¥50,000 · 合计 ≈¥50,000 · 统一内存
量化
FP8
解码
16 tok/s
最大上下文
41K
| 配置 | 量化 | 占用 / 显存 | 解码 tok/s | 预填充 tok/s | 最大上下文 |
|---|---|---|---|---|---|
| 8× L4 24GB工作站 | Q5_K_M估 | 173 GB / 192 GB | 79 | 4909 | 110K |
| 4× RTX A6000 48GB工作站 | Q5_K_M估 | 168 GB / 192 GB | 101 | 3150 | 136K |
| 4× RTX 6000 Ada 48GB工作站 | Q5_K_M估 | 168 GB / 192 GB | 126 | 3723 | 136K |
| 4× L40S 48GB工作站 | Q5_K_M估 | 168 GB / 192 GB | 113 | 3723 | 136K |
| 2× RTX PRO 6000 Blackwell 96GB工作站 | Q6_K估 | 192 GB / 192 GB | 103 | 5114 | 9K |
| 8× A10 24GB数据中心 | Q5_K_M估 | 173 GB / 192 GB | 158 | 5073 | 110K |
| 4× A100 40GB数据中心 | Q4_K_M | 148 GB / 160 GB | 239 | 12764 | 71K |
| 2× A100 80GB数据中心 | Q4_K_M | 146 GB / 160 GB | 156 | 6382 | 84K |
| 2× H20 96GB数据中心 | Q6_K估 | 192 GB / 192 GB | 229 | 1514 | 9K |
| 4× 昇腾 Ascend 910B 64GB数据中心 | FP8 | 241 GB / 256 GB | 154 | 11455 | 176K |
| 2× H100 80GB PCIe数据中心 | Q4_K_M | 146 GB / 160 GB | 153 | 15464 | 84K |
| 2× H100 80GB SXM数据中心 | Q4_K_M | 146 GB / 160 GB | 257 | 20230 | 84K |
| AMD MI300X 192GB数据中心 | Q6_K估 | 191 GB / 192 GB | 180 | 13367 | 15K |
| 2× H200 141GB数据中心 | FP8 | 238 GB / 282 GB | 232 | 20230 | 486K |
| B200 192GB数据中心 | Q6_K估 | 191 GB / 192 GB | 271 | 23011 | 15K |
| 2× DGX Spark 128GB统一内存 | FP8 | 238 GB / 240 GB | 12 | 1268 | 28K |
| Mac Studio M3 Ultra 256GB统一内存 | FP8 | 237 GB / 240 GB | 18 | 583 | 41K |
| Mac Studio M3 Ultra 512GB统一内存 | BF16 | 473 GB / 490 GB | 9.0 | 583 | 102K |
单流（batch=1）估算：解码 ≈ 显存带宽 × 效率 ÷ 每 token 读取字节（激活参数 × 量化位宽 + KV）；预填充 ≈ FP16 算力 × 0.45 ÷ (2 × 激活参数)。多卡按张量并行、带宽求和 × 0.55。实际受引擎、驱动、PCIe 影响，误差 ±30%。反向查：我的卡能跑谁 →
编程LiveCodeBench v5 70.7%（思考，官方）。
推理GPQA Diamond 71.1%（思考，官方）。
数学AIME 2025 81.5%（思考，官方）。
AgentBFCL v3 70.8%（官方）。
中文中文顶级。
逻辑能力
思考模式：AIME 2025 81.5%、GPQA 71.1%、LiveCodeBench 70.7%（官方）。非思考模式退化为强指令模型。混合训练使它在 agent 长任务上稳定性略逊于 2507 Thinking。
亮点
- 1.混合思考首创：/think 与 /no_think 软开关
- 2.22B 激活对标 DeepSeek-R1 / o1，Apache-2.0
- 3.119 种语言，KV 极省（4 KV 头）
坑
- 1.混合模式导致两种模式都略逊于专训版，2507 拆成 Instruct / Thinking 两套后各自更强
- 2.原生 32K，128K 需 YaRN
- 3.235B 总参需多卡
适合：单模型两用（对话 + 推理） · 多语言
不适合：单卡部署 · 极致推理（用 2507 Thinking）
| 基准 | 分数 | 来源 | 日期 | 证据 |
|---|---|---|---|---|
| LiveCodeBench竞赛编程 | 70.7% | Qwen3 技术报告表11（思考模式，LiveCodeBench v5） | 2025-04-29 | 厂商公布 |
| GPQA Diamond研究生级科学问答 | 71.1% | Qwen3 技术报告表11（思考模式，LiveCodeBench v5） | 2025-04-29 | 厂商公布 |
| AIME 2025美国数学邀请赛 | 81.5% | Qwen3 技术报告表11（思考模式，LiveCodeBench v5） | 2025-04-29 | 厂商公布 |
更新 2026-08-28 · 排名供选型参考，基准会饱和、会泄漏、会过时。