
GLM5.3-Flash-E224-DGX-Spark 模型
面向 DGX Spark 的非官方紧凑版 GLM-5.3-Flash。
为什么重要
为研究者和开发者在 DGX Spark 上部署 GLM-5.3-Flash 提供更可行的权重形态。
阅读原文huggingface.co
AI 解读(根据原文生成)
autotrust/GLM5.3-Flash-E224-DGX-Spark 是基于 zai-org/GLM-5.3-Flash 的非官方衍生模型,任务类型为 image-text-to-text,使用 vLLM 框架并采用 MIT 许可证。该构建通过 NAS 在每层保留 224/288 个 routed experts,专家使用 NVFP4,仍为每 token 激活 18 B 参数;权重约 141 GiB,面向两台 ConnectX-7 连接的 NVIDIA DGX Spark 或单张 180 GB Blackwell GPU 运行。模型保留完整词表和视觉塔,并包含可选 MTP 层。
要点(AI 据原文整理,数字均已与原文核对)
- 任务类型:image-text-to-text。
- 框架:vllm。
- 参数量:127627162814。
- 基础模型:zai-org/GLM-5.3-Flash。
- It keeps 224 of the 288 routed experts in each layer by Neural Architecture Search (NAS).
- The original GLM-5.3-Flash MTP layer ships unmodified in `mtp/` as an optional speculative-decoding draft.