
用 NVIDIA NeMo Relay 跟踪 Agent Harness 行为
展示用轨迹与 OpenTelemetry 诊断 Agent 调用、错误和 token 消耗。
为什么重要
帮助开发者发现成功结果背后的低效调用、重试和错误恢复路径。
阅读原文developer.nvidia.com
AI 解读(根据原文生成)
这篇教程介绍如何用 NVIDIA NeMo Relay 跟踪 Hermes Agent 的执行行为。教程运行两个 Hermes Agent 示例,通过 traces 检查模型与工具调用、错误、重试、耗时和 token 使用,并将这些证据与任务验证结果对照;还通过 Hermes ToolPerf 案例研究说明如何跨重复运行评估 agent harness 变更。文中涉及 ATOF、ATIF,以及带 OpenInference 的 OpenTelemetry,可在 Arize Phoenix 等工具中查看。
要点(AI 据原文整理,数字均已与原文核对)
- 教程运行两个 Hermes Agent 示例,并使用 NVIDIA NeMo Relay 生成的 traces 进行检查。
- 教程检查 model and tool calls、errors、retries、duration 和 token use。
- Hermes Agent includes NeMo Relay natively。
- NeMo Relay 记录 lifecycle events,并保留 timing 和 parent-child relationships。
- 教程使用 ATOF、ATIF,以及 OpenTelemetry with OpenInference 三种 agent execution 表示。
- 开始前需要 macOS or Linux、Git and curl、Docker Desktop or Docker Engine,以及 NVIDIA Build API key。