
新版 Artificial Analysis 指数拉大开放与封闭模型差距
新版指数以 60% 私有测试集抑制“benchmaxxing”,并改写模型排名。
为什么重要
它揭示了私有测试集和强化学习基础设施对模型排名解读的影响。
阅读原文the-decoder.com
AI 解读(根据原文生成)
Artificial Analysis 重做 Intelligence Index,并在第 5 版中让私有测试集占 60%,以抑制针对已知题目的“benchmaxxing”。Kimi K3.1 Pro 从最初第 4 名降至第 9 名,开放模型与榜首差距由 3 分扩大到 12 分;Grok 4.7 也减少 12 分。文章同时指出,封闭测试集降低了外部审查提示错误的能力,正文未提供基准代码或数据下载链接。
要点(AI 据原文整理,数字均已与原文核对)
- 新版指数中,Kimi K3.1 Pro 排在八个封闭模型之后。
- 开放模型与榜首的差距从此前的 3 分扩大到 12 分。
- 新版指数首次有 60% 依赖私有测试集。
- Grok 4.7 也减少了 12 分。
- Artificial Analysis 为新版指数修订了 AA-Omniscience 中含糊和有缺陷的问题。