disrouter.aiAI 情报台

disrouter.aiAI 情报台

图片:Hugging Face

论文Hugging Face Daily Papers

Learn2Play Bench:LLM Agent 经验学习评测

用新设计的文本游戏评测 Agent 从交互中学习的能力。

为什么重要

为研究 Agent 经验学习提供可复现、可自动评分的文本游戏基准。

阅读原文arxiv.org

AI 解读(根据原文生成)

论文提出 Learn2Play Bench,一个由新设计文本游戏组成的基准,用于评估 LLM agents 在陌生、动态环境中是否能通过交互获得知识。其游戏规则新颖或反直觉,避免模型仅依赖预训练知识;同时提供可复现反馈和自动评分,并通过变化游戏实例测试迁移。实验考察了骨干模型、自进化方法和 agent harness 对学习能力的影响。论文、代码与项目页均已给出。

要点(AI 据原文整理,数字均已与原文核对)

  • Learn2Play Bench is a benchmark of newly designed text-based games.
  • The games provide reproducible feedback and automatic scoring.
  • Retaining complete records of actions and feedback can support more effective learning than summarizing these experiences into rules or strategies.
  • Top-performing human players achieve higher peak scores than the evaluated agents.
  • With the backbone fixed, changing the harness can improve performance while reducing estimated inference cost.

全部来源(1)

  1. [1]Hugging Face Daily Papers(每日论文)

    Learn2Play Bench:LLM Agent 经验学习评测