disrouter.aiAI 情报台

disrouter.aiAI 情报台

图片:Hugging Face

论文Hugging Face Daily Papers

从证据到行动:工具型 Agent 如何失败

分析 Agent 从证据获取到工具行动执行的失效链条。

为什么重要

为评估工具型 Agent 的安全执行与证据使用提供了基准和代码。

阅读原文arxiv.org

AI 解读(根据原文生成)

该论文研究工具使用型 Agent 在从“是否行动”到执行单步动作和依赖工作流时,证据到行动链条在哪里断裂。作者提出 SafeActBench,包含 656 个案例、六个运营领域和五种协议,并用 Evidence Ledger 与确定性轨迹评估器跟踪信息何时建立、何时行动及依赖是否满足。结果显示,强静态行动评估可与较弱交互执行并存,失败常发生在执行前。代码和项目页已给出。

要点(AI 据原文整理,数字均已与原文核对)

  • Strong static action assessment can coexist with much weaker interactive execution.
  • Failures often begin before execution: agents stop with incomplete investigation or act before required evidence is established.
  • Once required evidence is obtained, single-action execution is usually reliable.
  • Multi-action workflows additionally expose unresolved prerequisites and incomplete execution.

全部来源(1)

  1. [1]Hugging Face Daily Papers(每日论文)

    从证据到行动:工具型 Agent 如何失败
从证据到行动:工具型 Agent 如何失败 · AI 情报台