开源权重可下推理模型·可关多模态可商用 · Apache-2.0
Step 3.7 Flash
阶跃星辰 Step 3.7 Flash · StepFun 阶跃星辰 · 发布 2026-05-29 · 当前代
阶跃 198B 视觉 MoE，11B 激活，图 / 视频 / 编程 agent。
参数
198B 总 / 11B 激活
MOE
上下文
256K
价格 / 1M tok
$0.20 / $1.15
StepFun 开放平台定价 · 2026-08-28
最低可跑
DGX Spark
Q4_K_M · 118 GB · ≈17 tok/s
Arena Elo—
AA 综合指数31
2026-08-28
代码—
GPQA 推理80.9
2026-08-28
架构简图
- 类型
- MoE
- 注意力
- 混合：全注意力 / 512 滑窗交替，GQA（64 Q / 8 KV）
- 层数
- 45
- 专家
- 288 · 激活 8 + 共享
- 隐藏维
- 4096
- 词表
- 128,896
196B 语言骨干 + 1.8B 视觉编码器；42 层 MoE，共享专家维 1280。推理强度 low / medium / high。
完善中
| 精度 | 权重大小 | 说明 |
|---|---|---|
| BF16 | 396 GB估 | 官方精度 |
| FP8 | 198 GB估 | |
| Q8 | 213 GB估 | |
| Q4 | 115 GB估 | GGUF Q4_K_M 或等效 |
- 消费级 24GB
- 未评估
- 单卡 80GB
- 不可行（官方最低 120GB 统一内存，如 Mac Studio / DGX Station）
- 8×80GB 节点
- FP8 多卡
⚠ 能加载 ≠ 能在满上下文 / 高并发下舒服跑。标「估」的数字来自 计算器 公式或社区量化文件大小。
完善中
硬件配置与预估吞吐
最低可跑（8K 上下文）
DGX Spark 128GB
≈¥30,000 · 合计 ≈¥30,000 · 统一内存
量化
Q4_K_M
解码
17 tok/s
最大上下文
22K
推荐配置（≥Q8 · 32K 上下文 · ≥15 tok/s）
Mac Studio M3 Ultra 256GB
≈¥50,000 · 合计 ≈¥50,000 · 统一内存
量化
FP8
解码
29 tok/s
最大上下文
464K
| 配置 | 量化 | 占用 / 显存 | 解码 tok/s | 预填充 tok/s | 最大上下文 |
|---|---|---|---|---|---|
| 4× RTX 5090 32GB消费级 | Q4_K_M | 121 GB / 128 GB | 500 | 17182 | 47K |
| 8× L4 24GB工作站 | Q6_K估 | 169 GB / 192 GB | 128 | 9818 | 137K |
| 4× RTX A6000 48GB工作站 | Q6_K估 | 165 GB / 192 GB | 164 | 6300 | 164K |
| 4× RTX 6000 Ada 48GB工作站 | Q6_K估 | 165 GB / 192 GB | 205 | 7445 | 164K |
| 4× L40S 48GB工作站 | Q6_K估 | 165 GB / 192 GB | 184 | 7445 | 164K |
| 2× RTX PRO 6000 Blackwell 96GB工作站 | Q6_K估 | 162 GB / 192 GB | 191 | 10227 | 177K |
| 8× A10 24GB数据中心 | Q6_K估 | 169 GB / 192 GB | 256 | 10145 | 137K |
| 4× A100 40GB数据中心 | Q5_K_M估 | 143 GB / 160 GB | 376 | 25527 | 106K |
| 2× A100 80GB数据中心 | Q5_K_M估 | 140 GB / 160 GB | 246 | 12764 | 119K |
| 2× H20 96GB数据中心 | Q6_K估 | 162 GB / 192 GB | 427 | 3027 | 177K |
| 2× 昇腾 Ascend 910B 64GB数据中心 | Q4_K_M | 119 GB / 128 GB | 223 | 11455 | 60K |
| 2× H100 80GB PCIe数据中心 | Q5_K_M估 | 140 GB / 160 GB | 242 | 30927 | 119K |
| 2× H100 80GB SXM数据中心 | Q5_K_M估 | 140 GB / 160 GB | 405 | 40459 | 119K |
| AMD MI300X 192GB数据中心 | Q6_K估 | 161 GB / 192 GB | 334 | 26734 | 184K |
| H200 141GB数据中心 | Q5_K_M估 | 139 GB / 141 GB | 343 | 20230 | 18K |
| B200 192GB数据中心 | Q6_K估 | 161 GB / 192 GB | 504 | 46023 | 184K |
| DGX Spark 128GB统一内存 | Q4_K_M | 118 GB / 120 GB | 17 | 1268 | 22K |
| Mac M4 Max 128GB统一内存 | Q4_K_M | 118 GB / 120 GB | 35 | 695 | 22K |
| Mac Studio M3 Ultra 256GB统一内存 | FP8 | 200 GB / 240 GB | 35 | 1166 | 464K |
| Mac Studio M3 Ultra 512GB统一内存 | BF16 | 399 GB / 490 GB | 17 | 1166 | 528K |
单流（batch=1）估算：解码 ≈ 显存带宽 × 效率 ÷ 每 token 读取字节（激活参数 × 量化位宽 + KV）；预填充 ≈ FP16 算力 × 0.45 ÷ (2 × 激活参数)。多卡按张量并行、带宽求和 × 0.55。实际受引擎、驱动、PCIe 影响，误差 ±30%。反向查：我的卡能跑谁 →
编程Terminal-Bench 2.1 59.5、SWE-bench Pro 56.3（官方）。
推理HLE 带工具 48.1（官方）。
多模态图片 + 视频理解，V* 95.3（官方）。
中文强，国产模型。
逻辑能力
工程型推理不错（TB 2.1 59.5），考试型推理官方主要给 HLE 带工具 48.1，纯推理指标缺。
亮点
- 1.Terminal-Bench 2.1 59.5、SWE-bench Pro 56.3、HLE 带工具 48.1（官方）
- 2.Apache-2.0，图片 + 视频理解 + 编程 agent 一体
- 3.官方放 BF16 / FP8 / NVFP4 / GGUF，Mac 128GB 可跑
坑
- 1.198B 总参，80GB 单卡跑不了
- 2.官方未给 SWE-bench Verified / GPQA 等常见指标
- 3.StepFun 海外生态与工具链较弱
适合：视觉 + 搜索 agent · Mac / 大内存工作站本地
不适合：24GB / 80GB 单卡 · 纯数学竞赛
| 基准 | 分数 | 来源 | 日期 | 证据 |
|---|---|---|---|---|
| Artificial Analysis Intelligence IndexAA 综合指数 | 31 | Artificial Analysis Intelligence Index v3 | 2026-08-28 | 独立复测 |
| Terminal-Bench终端 agent | 59.5% | Step-3.7-Flash 模型卡 | 2026-08-28 | 厂商公布 |
| Artificial Analysis Intelligence IndexAA 综合指数 | 31 | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| GPQA Diamond研究生级科学问答 | 80.9% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| Humanity's Last Exam人类最后考试 | 21.4% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| SciCode科学计算编程 | 40% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| Terminal-Bench Hard终端 agent（AA 困难子集） | 35.6% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| τ²-Bench Telecom工具调用 agent（电信域） | 98.5% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| MMMU-Pro多模态理解（Pro） | 75.3% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| IFBench指令遵循 | 67.3% | Artificial Analysis (v4.1.1) | 2026-08-28 | 独立复测 |
| Terminal-Bench终端 agent | 39.3% | Artificial Analysis · Terminal-Bench 2.1 | 2026-08-28 | 独立复测 |
| τ³-Bench Banking工具调用 agent（银行域） | 12% | Artificial Analysis · τ³-Bench Banking | 2026-08-28 | 独立复测 |
更新 2026-08-28 · 排名供选型参考，基准会饱和、会泄漏、会过时。