
从证据到行动:工具型 Agent 如何失败
分析 Agent 从证据获取到工具行动执行的失效链条。
为什么重要
为评估工具型 Agent 的安全执行与证据使用提供了基准和代码。
阅读原文arxiv.org
AI 解读(根据原文生成)
该论文研究工具使用型 Agent 在从“是否行动”到执行单步动作和依赖工作流时,证据到行动链条在哪里断裂。作者提出 SafeActBench,包含 656 个案例、六个运营领域和五种协议,并用 Evidence Ledger 与确定性轨迹评估器跟踪信息何时建立、何时行动及依赖是否满足。结果显示,强静态行动评估可与较弱交互执行并存,失败常发生在执行前。代码和项目页已给出。
要点(AI 据原文整理,数字均已与原文核对)
- Strong static action assessment can coexist with much weaker interactive execution.
- Failures often begin before execution: agents stop with incomplete investigation or act before required evidence is established.
- Once required evidence is obtained, single-action execution is usually reliable.
- Multi-action workflows additionally expose unresolved prerequisites and incomplete execution.