
LiquidAI 发布 LFM2.5-24B-A2B
24B 推理模型每 token 仅激活 2B 参数,面向端侧私有 Agent。
为什么重要
为端侧或私有 Agent 提供较大规模但低活跃参数的推理模型选择。
阅读原文huggingface.co
AI 解读(根据原文生成)
LiquidAI 在 Hugging Face 发布 LFM2.5-24B-A2B,这是 LFM2.5 家族中最大且最终的 24B 参数文本推理模型,每 token 仅 2B/2.45B 活跃参数,面向快速、私有的端侧 Agent。模型后训练用于 agentic workloads,支持 Transformers、vLLM、SGLang,并提供 FP8、GGUF、ONNX、MLX-4bit 等格式说明。模型卡称其在 LiveClaw 上得分 48.09,并给出端侧与 GPU 推理速度数据。权重页面无需申请访问。
要点(AI 据原文整理,数字均已与原文核对)
- Active parameters: 2.45B.
- Number of layers: 40 (30 double-gated short convolution blocks + 10 GQA).
- Experts: 64 per MoE block, top-4 routing.
- Training budget: 36 trillion tokens.
- Context length: 131,072 tokens.