LFM2.5-24B-A2B 本地智能体模型
以 MoE 低激活参数实现推理、工具使用与长上下文。
为什么重要
为本地私有智能体提供了长上下文和工具使用模型参考。
阅读原文huggingface.co
AI 解读（根据原文生成）
LiquidAI 在 Hugging Face Blog 介绍 LFM2.5-24B-A2B。该模型沿用 LFM2-24B-A2B 架构，扩展上下文窗口与词表，定位为 reasoning-only，会在最终回答前生成显式思维链。训练包括更大规模预训练、长上下文与推理/代码/多语等中训练，以及 SFT、蒸馏和 Agentic RL 等五阶段后训练。文章给出 16 个基准对比和推理速度，但未说明权重或代码开放。
要点（AI 据原文整理，数字均已与原文核对）
- LFM2.5-24B-A2B keeps its architecture: 40 layers, 64 experts per MoE block with top-4 routing, and the same hybrid of gated short convolutions and GQA.
- The context window grows from 32K to 131K tokens.
- An in-place tokenizer expansion doubles the vocabulary from 65K to 128K tokens.
- Pre-training was scaled up from ~17T to ~33T tokens.
- Mid-training adds 2T tokens at 32K context and 300B tokens at 131K context.
- Efficient inference: 184 tok/s on an Apple M5 Max and up to 21K output tok/s on a single NVIDIA B300 GPU.
