Agent Observability · 词条 | AGIDaily
AGI Daily
资讯日报词条论文人物新创
词条/智能体/Agent Observability
  • AI Agent
  • Tool Use
  • RAG
  • MCP
  • Context Engineering
Agent Memory
  • Planning
  • Workflow
  • Multi-Agent
  • Agent Observability
  • Agent Skills
  • Code Sandbox
  • Coding Agent
  • Computer Use
  • Generative UI
  • Red Teaming
  • Training Containment
  • 智能体 · 词条目录
    • AI Agent
    • Tool Use
    • RAG
    • MCP
    • Context Engineering
    • Agent Memory
    • Planning
    • Workflow
    • Multi-Agent
    • Agent Observability
    • Agent Skills
    • Code Sandbox
    • Coding Agent
    • Computer Use
    • Generative UI
    • Red Teaming
    • Training Containment

    Agent Observability

    也称 observability-for-agents

    Agent Observability(Agent Observability)对智能体一次任务中的提示、工具调用、中间状态与最终结果做追踪与审计,用来定位失败、评估质量和控制成本。

    如何理解

    传统应用可观测性盯住请求延迟与错误率;代理可观测性还要记下模型输入输出、工具选择、检索内容、重试路径和人工接管点,因为失败往往出在中间决策,而不是最后一次 HTTP 状态码。

    常见做法是把每次运行做成 trace:按 span 记录工具调用与子代理,再挂上评估分数、护栏告警和成本统计。没有这层记录,就很难复现一次「偶发胡写」或比较两次提示改动的真实影响。

    容易混淆的地方

    只存聊天记录不算可观测。缺少工具参数、检索原文和策略版本,排障仍然靠猜。过度记录也可能把密钥与用户隐私打进日志,需要脱敏与留存策略。

    参考来源

    1. OpenTelemetry:GenAI semantic conventions(agent/tool spans)(新窗口打开)
    2. LangSmith Observability 文档(新窗口打开)
    3. Anthropic:Building effective agents(工作流可检查性)
    (新窗口打开)