用 ML Intern 自制小模型
作者用 ML Intern 将需求转为训练、评测和发布流程。
为什么重要
展示了用代理把模型定制流程自动化的可复用做法。
阅读原文huggingface.co
AI 解读（根据原文生成）
这篇 Hugging Face Blog 文章介绍作者用 ML Intern 按需求制作小模型的实践。作者想要 Qwen-Image 2.1 提示重写器的小版本，发现 Hub 上只有同一 9B 模型的压缩副本，于是通过 HuggingChat 启用 ML-intern，次日得到一个可在 CPU 上运行的 0.8B 版本。随后作者用同样方式制作了更多模型：在提示中指定数据集、基础模型、训练脚本、已核验事实、训练前基线、smoke test、交付物和预算；ML-intern 会规划、请求预算、测试、训练、评测并发布到 Hub。
要点（AI 据原文整理，数字均已与原文核对）
- The official one is a 9B model that needs about 20 GB of memory and thinks for thousands of tokens before writing a single paragraph.
- 作者得到一个 0.8B version that runs on a CPU。
- It returns valid output 99.7% of the time and uses about a quarter of the teacher's tokens.
- The compute for the whole project, including having the 9B model label 8,797 example requests, came to USD 16.
- 作者随后用同样方式制作了 five more models。
- All seven prompts are on GitHub at yvrjsharma/ml-intern-prompts, exactly as I wrote them.
