
Naive-N0.5-Flash 模型发布
以混合 SWA–DSA 实现原生 1M 上下文且无全注意力层
为什么重要
为长上下文代码与 AI 研发场景提供开放权重和推理代码参考。
阅读原文huggingface.co
AI 解读(根据原文生成)
Naive-N0.5-Flash 是一个开放权重的 309B MoE 文本生成模型,15.5B 活跃参数,面向 coding 和 AI R&D。它基于 MiMo-V2.5,使用 Sliding-Window Attention 与轻量 DeepSeek Sparse Attention 的混合结构,替换全局注意力层以降低长上下文解码开销,并支持原生 1M-token 上下文。模型权重和推理代码以 MIT 许可证发布,Hugging Face 与 GitHub 链接已给出。
要点(AI 据原文整理,数字均已与原文核对)
- Naive-N0.5-Flash is an open-weight 309B MoE model with 15.5B active parameters.
- The entire network remains local or sparse, with no full-attention layers.
- API pricing is set at $0.10 / $0.40 / $0.01 per million tokens for input, output, and cache reads, respectively.