
Aleph-Alpha/Kolibri-1 模型发布
面向德英双语的 MoE 推理模型,支持长上下文与工具调用。
为什么重要
为德英双语推理、RAG、Agent 工具调用和代码任务提供可用开放权重模型。
阅读原文huggingface.co
AI 解读(根据原文生成)
Aleph-Alpha/Kolibri-1 是 Aleph Alpha 的混合专家(MoE)推理模型,重点支持德语和英语文本生成。模型支持显式推理模式和工具调用,并针对长上下文与推理效率优化;训练方法包括 50 层 Transformer MoE、4:1 SWA:GQA attention、Muon 和 Exact Quantile Balancing。模型卡给出 Apache 2.0 许可证,权重可在 Hugging Face 获取,并提供 GitHub 推理代码与论文链接。
要点(AI 据原文整理,数字均已与原文核对)
- Architecture Mixture-of-Experts
- Active parameters / token 3.46B (`3,457,573,120`)
- Languages German, English
- Context length `1,048,576 tokens`; we recommend ≤262,144 tokens for serving efficiency and complex tasks
- Training Data Pre-training: Trained on 20T tokens of a filtered, bilingual corpus (~62.5% English, ~23.9% German, ~13.6% code)
- Hardware requirements Model memory footprint: ~78 GB (FP8 weights).