disrouter.aiAI 情报台

disrouter.aiAI 情报台

图片:Hugging Face

模型发布重要Hugging Face 热门模型

Aleph-Alpha/Kolibri-1 模型发布

面向德英双语的 MoE 推理模型,支持长上下文与工具调用。

为什么重要

为德英双语推理、RAG、Agent 工具调用和代码任务提供可用开放权重模型。

阅读原文huggingface.co

AI 解读(根据原文生成)

Aleph-Alpha/Kolibri-1 是 Aleph Alpha 的混合专家(MoE)推理模型,重点支持德语和英语文本生成。模型支持显式推理模式和工具调用,并针对长上下文与推理效率优化;训练方法包括 50 层 Transformer MoE、4:1 SWA:GQA attention、Muon 和 Exact Quantile Balancing。模型卡给出 Apache 2.0 许可证,权重可在 Hugging Face 获取,并提供 GitHub 推理代码与论文链接。

要点(AI 据原文整理,数字均已与原文核对)

  • Architecture Mixture-of-Experts
  • Active parameters / token 3.46B (`3,457,573,120`)
  • Languages German, English
  • Context length `1,048,576 tokens`; we recommend ≤262,144 tokens for serving efficiency and complex tasks
  • Training Data Pre-training: Trained on 20T tokens of a filtered, bilingual corpus (~62.5% English, ~23.9% German, ~13.6% code)
  • Hardware requirements Model memory footprint: ~78 GB (FP8 weights).

全部来源(1)

  1. [1]Hugging Face 热门模型

    Aleph-Alpha/Kolibri-1 模型发布