LFM2.5-24B-A2B
Liquid AI LFM2.5-24B-A2B · Liquid AI Liquid AI（美国） · 发布 2026-10-13 · 当前代
2.45B 激活就能当 agent 用的 24B 端侧推理模型，M5 Max 上 184 tok/s。
- 类型
- Hybrid（线性 + 全注意力）
- 注意力
- 混合结构：30 层双门控短卷积 + 10 层 GQA
- 层数
- 40
- 专家
- 64 · 激活 4
- 隐藏维
- 未披露
- 词表
- 128,000
官方模型卡：40 层，每个 MoE 块 64 专家 top-4 路由，总参 24.0B / 激活 2.45B，纯文本。架构沿用 LFM2-24B-A2B，两处改动是上下文从 32K 扩到 131,072、词表通过原地 tokenizer 扩展从 65K 翻到 128K（为非拉丁语系分词）。训练预算 36 万亿 token：预训练约 33T（上一代约 17T），中训练 2T 在 32K 上下文、再 300B 在 131K 长上下文，两阶段都掺入工具调用与多轮轨迹；后训练五段 —— SFT、教师专精、两轮多域 on-policy 蒸馏（先非 agent 再 agent）、最后在 OpenClaw / Hermes Agent / Pi / OpenCode 这些真实 agent harness 里做 agentic RL。与上一代不同，这是纯推理模型，chat template 直接塞 <think>，必定先思考再回答。官方同时放出 Base 预训练版、FP8、GGUF、ONNX、MLX-4bit 多种格式，DSpark 投机解码草稿头写「coming soon」。
完善中
| 精度 | 权重大小 | 说明 |
|---|---|---|
| BF16 | 48 GB估 | 官方精度 |
| FP8 | 24 GB估 | |
| Q8 | — | 暂无 |
| Q4 | — | 暂无 |
- 消费级 24GB
- 原生 BF16 装不下（约 48GB），但官方有 GGUF 与 MLX-4bit 量化版，24GB 档走量化可行
- 单卡 80GB
- 充裕：单张 80GB 可跑 BF16 并开满 131,072 上下文
- 8×80GB 节点
- 过剩
KV Cache：体积按 23,971,585,280 参数推算（HF safetensors 元数据），官方模型卡只给格式不给文件体积。官方实测速度：Apple M5 Max 184 tok/s、Ryzen AI Max+ 395 114 tok/s，单张 NVIDIA B300 高并发下输出超 21K tok/s
⚠ 能加载 ≠ 能在满上下文 / 高并发下舒服跑。标「估」的数字来自 计算器 公式或社区量化文件大小。
完善中
| 配置 | 量化 | 占用 / 显存 | 解码 tok/s | 预填充 tok/s | 最大上下文 |
|---|---|---|---|---|---|
| 2× RTX 3060 12GB消费级 | Q6_K估 | 22 GB / 24 GB | 202 | 4592 | 未建模 |
| RTX 4060 Ti 16GB消费级 | Q4_K_M估 | 15 GB / 16 GB | 132 | 2020 | 未建模 |
| RTX 3090 24GB消费级 | Q6_K估 | 20 GB / 24 GB | 310 | 6520 | 未建模 |
| RTX 4070 Ti Super 16GB消费级 | Q4_K_M估 | 15 GB / 16 GB | 307 | 4041 | 未建模 |
| RTX 5070 Ti 16GB消费级 | Q4_K_M估 | 15 GB / 16 GB | 410 | 8082 | 未建模 |
| RTX 4080 Super 16GB消费级 | Q4_K_M估 | 15 GB / 16 GB | 337 | 4776 | 未建模 |
| RTX 5080 16GB消费级 | Q4_K_M估 | 15 GB / 16 GB | 439 | 10286 | 未建模 |
| RTX 4090 24GB消费级 | Q6_K估 | 20 GB / 24 GB | 334 | 15153 | 未建模 |
| RTX 5090 32GB消费级 | FP8 | 25 GB / 32 GB | 475 | 19286 | 未建模 |
| L4 24GB工作站 | Q6_K估 | 20 GB / 24 GB | 99 | 5510 | 未建模 |
| RTX A6000 48GB工作站 | FP8 | 25 GB / 48 GB | 204 | 7071 | 未建模 |
| RTX 6000 Ada 48GB工作站 | FP8 | 25 GB / 48 GB | 255 | 8357 | 未建模 |
| L40S 48GB工作站 | FP8 | 25 GB / 48 GB | 229 | 8357 | 未建模 |
| RTX PRO 6000 Blackwell 96GB工作站 | BF16 | 49 GB / 96 GB | 238 | 22959 | 未建模 |
| A10 24GB数据中心 | Q6_K估 | 20 GB / 24 GB | 199 | 5694 | 未建模 |
| A100 40GB数据中心 | FP8 | 25 GB / 40 GB | 413 | 28653 | 未建模 |
| A100 80GB数据中心 | BF16 | 49 GB / 80 GB | 270 | 28653 | 未建模 |
| H20 96GB数据中心 | BF16 | 49 GB / 96 GB | 531 | 6796 | 未建模 |
| 昇腾 Ascend 910B 64GB数据中心 | BF16 | 49 GB / 64 GB | 212 | 25714 | 未建模 |
| H100 80GB PCIe数据中心 | BF16 | 49 GB / 80 GB | 265 | 69429 | 未建模 |
| H100 80GB SXM数据中心 | BF16 | 49 GB / 80 GB | 444 | 90827 | 未建模 |
| AMD MI300X 192GB数据中心 | BF16 | 49 GB / 192 GB | 703 | 120031 | 未建模 |
| H200 141GB数据中心 | BF16 | 49 GB / 141 GB | 637 | 90827 | 未建模 |
| B200 192GB数据中心 | BF16 | 49 GB / 192 GB | 1061 | 206633 | 未建模 |
| Mac M4 Pro 64GB统一内存 | BF16 | 49 GB / 56 GB | 28 | 1561 | 未建模 |
| DGX Spark 128GB统一内存 | BF16 | 49 GB / 120 GB | 28 | 5694 | 未建模 |
| Mac M4 Max 128GB统一内存 | BF16 | 49 GB / 120 GB | 56 | 3122 | 未建模 |
| Mac Studio M3 Ultra 256GB统一内存 | BF16 | 49 GB / 240 GB | 84 | 5235 | 未建模 |
| Mac Studio M3 Ultra 512GB统一内存 | BF16 | 49 GB / 490 GB | 84 | 5235 | 未建模 |
单流（batch=1）估算：解码 ≈ 显存带宽 × 效率 ÷ 每 token 读取字节（激活参数 × 量化位宽 + KV）；预填充 ≈ FP16 算力 × 0.45 ÷ (2 × 激活参数)。多卡按张量并行、带宽求和 × 0.55。实际受引擎、驱动、PCIe 影响，误差 ±30%。反向查：我的卡能跑谁 →
编程SWE-Bench Verified（OpenCode harness）51.00、SciCode 32.71（官方发布博客）。
数学MATH-500 96.04（官方发布博客，与对比组基本持平）。
知识GPQA Diamond 74.42、HLE 7.40、AA-Omniscience -24.90（官方发布博客），官方明确建议配检索使用。
指令遵循IFEval 96.75、IFBench 74.69、Multi-IF 84.38（官方发布博客，三项均为对比组第一）。
AgentAutomationBench 27.69、BFCLv4 65.01、ToolSandbox 80.71、LiveClaw 48.09、τ³-Bench Banking 8.04、PinchBench 83.18、WebArena Verified 26.75（官方发布博客，全部用 vLLM 按各基准推荐参数跑）。
中文官方语言列表含中文（英、阿、中、法、德、意、日、韩、葡、西、越、泰、印尼、印地、俄、波共 16 种），词表翻倍到 128K 即为改善非拉丁语系分词；但未提供中文专项评测分数。
这台机器是「用 2.45B 激活量换速度、把能力押在工具调用上」的极端样本。官方 16 项评测里的分布极其分裂：八项工具与 agent 基准里它领先或追平五项（AutomationBench、BFCLv4、ToolSandbox、LiveClaw、τ³-Bench Banking），三项指令遵循全部第一；但知识（GPQA 74.42、HLE 7.40、AA-Omniscience -24.90）、编码（SWE-Bench Verified 51.00、SciCode 32.71）、网页 agent（WebArena 26.75）这三类全部落后于参数量大 50% 的 Qwen3.6-35B-A3B。AutomationBench 那个 3 倍差值值得单独记：这是多步业务流程自动化，说明它在「按格式连续调工具」这件事上被专门训过 —— 后训练最后一段就是在真实 agent harness 里做 RL。所以合理用法是把它当本地 agent 的执行单元 + 工具调度器，知识部分交给检索。另一个现实优点是它真的能跑在自己机器上：M5 Max 184 tok/s 的推理速度意味着「一直开着的本地 agent」在消费级硬件上第一次成立。数学意外地没掉队（MATH-500 96.04，与对比组持平）。本站入榜的是官方表里与站内列同口径的三项：SWE-Bench Verified、GPQA Diamond、HLE。
- 1.端侧 agent 取向的 MoE：24.0B 总参只激活 2.45B，131,072 上下文，纯推理模型（必定先思考），llama.cpp / MLX / vLLM / SGLang / ONNX 首日全支持
- 2.工具调用与指令遵循是强项：AutomationBench 27.69 是次优模型（Qwen3.6-35B-A3B 8.72）的三倍多，ToolSandbox 80.71、LiveClaw 48.09、BFCLv4 65.01，三项指令遵循（IFEval 96.75 / IFBench 74.69 / Multi-IF 84.38）全组第一
- 3.速度与内存是它的真卖点：官方实测 Apple M5 Max 184 tok/s、Ryzen AI Max+ 395 114 tok/s，同组 MoE 里最快（约 1.7 倍）且占内存最少；单张 B300 高并发输出超 21K tok/s
- 4.后训练直接在 agent harness 里做 RL（OpenClaw / Hermes Agent / Pi / OpenCode），学的是这些框架的工具与系统提示格式
- 1.许可证不是 Apache：LFM Open License v1.0 第 5 条明写，年营收达到或超过 1,000 万美元的法律实体的商业使用「不在本协议授权范围内」，需要另签；501(c)(3) 等合格非营利组织做非商业 / 研究用途不受此限
- 2.知识面弱是官方自己承认的：GPQA Diamond 74.42 落后 Qwen3.6-35B-A3B 的 83.69，AA-Omniscience -24.90、HLE 7.40，官方建议必须配检索或网搜
- 3.编码是短板：SWE-Bench Verified（OpenCode harness）51.00 低于 Qwen3.6-35B-A3B 的 66.20 与 Nemotron-3.5-Lightning 的 53.40，SciCode 32.71 也落后
- 4.浏览器 / 网页 agent 不行：WebArena Verified 26.75 对 Qwen3.6-35B-A3B 的 37.62，PinchBench 83.18 也低于对比组的 89.93
- 5.全部分数由 Liquid AI 自己用 vLLM 跑出，无第三方复测；对比组只挑了三个同级 MoE（Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it、Nemotron-3.5-Lightning）
- 6.纯文本：上一代 LFM2-VL 那条视觉线没进这一代的 24B 档，要图像输入得换模型
| 基准 | 分数 | 来源 | 日期 | 证据 |
|---|---|---|---|---|
| SWE-bench Verified真实仓库修 bug | 51% | LFM2.5-24B-A2B 官方发布博客评测表（vLLM；SWE-bench Verified 用 OpenCode harness） | 2026-10-14 | 厂商公布 |
| GPQA Diamond研究生级科学问答 | 74.4% | LFM2.5-24B-A2B 官方发布博客评测表（vLLM；SWE-bench Verified 用 OpenCode harness） | 2026-10-14 | 厂商公布 |
| Humanity's Last Exam人类最后考试 | 7.4% | LFM2.5-24B-A2B 官方发布博客评测表（vLLM；SWE-bench Verified 用 OpenCode harness） | 2026-10-14 | 厂商公布 |
更新 2026-10-14 · 排名供选型参考，基准会饱和、会泄漏、会过时。