通过 IBM watsonx Orchestrate 的智能体可观测性和治理功能,革新 AI 智能体管理

两名同事在办公桌前工作,一人坐在椅子上,一人站着,两人都在看带有代码的屏幕

作者

Mithun Katti

Technical Product Manager, IBM watsonx Orchestrate

IBM

新功能:IBM watsonx Orchestrate 引入了新的可观测性和治理功能,旨在简化 AI 智能体管理并提高性能。

现在,使用 Orchestrate 的新智能体治理功能,可以更轻松地管理多智能体系统和维护系统可见性。

传统的监控工具在追踪 AI 智能体时往往显得力不从心。这些智能体不仅需要监控,还需要反馈循环来不断学习和改进。现代 AI 系统的分布式特性使问题进一步复杂化,因此分布式跟踪至关重要。这正是 watsonx Orchestrate 的可观测性功能的用武之地,它利用 OpenTelemetry 和 Traceloop 等标准,为智能体互动和 AI 智能体的健康状况提供全面、实时的洞察分析。

此外,为确保 AI 智能体的质量和有效性,Orchestrate 的治理功能提供了评估指标,如流程完成率、工具调用准确性、响应正确性以及指令遵循情况。这些指标有助于创建受管理的 AI 智能体目录,确保只部署高质量、企业级的 AI 智能体。

IBM watsonx Orchestrate 的 3 个关键功能:

IBM watsonx Orchestrate 提供从构建到生产的整个智能体生命周期的治理优势。

  • 智能体可观测性为智能体构建者提供了智能体环境的整体视图。他们可以从统一的仪表板轻松监控使用情况、成功率和延迟。关键是,该功能可以深入到各个事务层面,提供每个智能体输出质量的详细洞察。
  • 智能体治理:watsonx Orchestrate 中的智能体治理功能为智能体的部署前评估提供了强有力的框架。使用 Agent Development Kit (ADK) 或无代码智能体构建器,开发者可以在多个维度评估他们的智能体,包括流程完成情况、响应相关性以及工具调用准确性。Orchestrate 还将通过一个暂存区支持智能体入驻治理,在将智能体添加到目录之前,对其质量、安全性、成本和延迟进行严格测试。系统会根据这些评估计算质量分数,为智能体的就绪状态提供透明的基准。
  • AI 智能体的生产监控可确保预设的防护措施和政策被自动执行,从而防止诸如提示注入攻击和未经授权的数据访问等问题。

工作原理是什么?

智能体可观测性通过捕获并可视化智能体的遥测数据,实现实时洞察。它与现有工具无缝集成,并遵循行业标准,确保兼容性和易用性。

另一方面,治理通过多步骤的过程来运作。在部署前,智能体会通过 ADK 或 Agent Builder 进行评估,用户可通过明确的自定义问题或文件上传来参与测试。系统随后会计算并展示一系列指标,包括任务完成情况、工具调用准确性以及响应相关性。

一旦对智能体的表现感到满意,它即可进入生产阶段,在该阶段通过持续监控和自动化政策执行来维持最佳性能。

IBM Watsonx Orchestrate 仪表板显示智能体分析
显示任务工作流的 IBM watsonx Orchestrate 仪表板

管理多智能体系统变得更容易

IBM watsonx Orchestrate 的全新智能体可观测性和治理功能,是在管理复杂的多智能体系统方面实现的巨大飞跃。通过增强可见性、提高智能体质量并确保稳健的治理,watsonx Orchestrate 可帮助彻底改变企业充分利用 AI 智能体的方式,最终在规模化提高效率和价值。

探索 watsonx Orchestrate

免费试用 IBM watsonx Orchestrate