Agentic AI 及我们需要了解的核心要点：对话 Phaedra Boinodiris

需要规划行程？订火车票？安排用餐？Agentic AI 都能搞定，甚至做得更多。这种直观的 AI 系统设计精密，能够自主作出决策。但也正因其决策自主性，它需要健全的治理机制

随着 Agentic AI 系统在各类组织中日益普及，建立全面完善的治理结构变得尤为重要。这些系统具备独立决策能力，因此迫切需要健全的框架来确保其行为符合伦理规范、运作透明且可追责。IBM Consulting 值得信赖的 AI 全球负责人 Phaedra Boinodiris 在本次问答专题中讨论了当前的 Agentic AI 热潮，以及构建基础人工智能治理体系的必要性。

Teaganne Finn：请解释一下 Agentic AI。这项技术真的值得我们如此兴奋吗？

Phaedra Boinodiris：人们对 Agentic AI 有着极大的兴趣。本质上，它相当于将多个不同的 AI 解决方案或 AI 模型串联起来，一个 AI 模型的输出成为另一个 AI 模型的输入。

TF：能否分享 Agentic AI 的一些实际应用例子？

PB：当然可以。我们先从自动驾驶汽车——这一经典案例展开讨论。这类系统并非仅局限于图像识别，还结合了自然语言处理、决策和活动规划能力。它们不仅具备感知能力，还能进行推理并采取行动。

一个更贴近生活的例子可能是智能家居清洁机器人。它能绘制家庭空间地图，自动避障，学习高效清扫路线，并根据您的日程或偏好决定清扫时间。这就是智能体在真实环境中自主行动的一个例子。

或者设想一款个人 AI 智能体。假设您计划前往马德里旅行。只需告诉它酒店位置、个人兴趣（如音乐、美食、艺术）及限制条件（如 50 欧元预算、不行不超过 10 英里），AI 智能体就会为您策划行程、完成预订，并根据时间、距离和偏好进行优化。它不只是回答您的问题，而是真正替您办事。

接下来分享 IBM 参与的一些企业级用例：

在金融服务领域，一种 Agentic AI 解决方案能够对客户投诉进行分类和甄别。它使用自然语言处理来识别关键词和情绪（如“退款”、“受伤”或“安全”），从而确定处理优先级并合理分派。该系统甚至可以根据公司基调和政策，草拟个性化回复。

AI 通过将非结构化消息整理归类并生成操作方案，加快了问题解决速度，并确保紧急事项及时交由人工处理。IBM 已在多家大型银行实施类似的解决方案，以提升客户体验并强化合规管理。

在生命科学领域，Agentic AI 可用于简化监管文档的编写。IBM 推出的一款解决方案可根据临床试验数据、研究文献和技术文档自动生成高质量的报告草稿。这款 AI 基于以往的监管提交内容进行训练，能够输出符合监管机构格式要求的结构化内容。

人工审阅者仍参与其中，确保准确性和可追溯性。它不仅加快了新药上市时间，而且减少了人工工作量和失误——这在受到严格监管的医药行业中尤为关键。

IBM 为家电制造商推出了人工智能驱动的自助服务工具，帮助处理复杂的长尾客户查询，例如寻找替换零件、进行产品对比或解决故障。这类查询内容多样且出现频率低，传统聊天机器人往往难以应对。Agentic AI 解决方案可以整合来自不同知识库的信息，提供准确回答，不仅减轻了客服中心的压力，也大幅提升了客户满意度。

TF：新技术的出现带来了更多与 AI 伦理和治理相关的风险。能否请您具体说明其中的一些问题？

PB：预测性或传统 AI 存在风险，需要建立安全防护机制。新闻中不乏这样的案例：一些组织虽然有着良好的意图，但却部署了不准确或不公平的传统 AI 模型。生成式 AI 不仅放大了这些风险，还引入了新的风险。如今，随着 AI 智能体自主性的增强，风险进一步加剧，并以新的方式出现。

对于尚未建立基础人工智能治理体系的组织而言，若希望直接跨越到 Agentic AI，所面临的挑战将更加严峻。在如何确保这些 AI 解决方案值得信赖方面，他们将要面对更陡峭的学习曲线。

为了真正发挥 AI 的潜力，组织不仅要“选对 AI”——即投资那些契合使命战略、最有价值的 AI 模型用例，还要“用对 AI”。为了“用对 AI”，组织不能仅聚焦于基础设施、模型和运营，更需要应对如何赢得信任这一横跨社会与技术维度的挑战。

要让 AI 系统赢得信任，不能只依赖技术方案，而应采取涵盖人员、流程与工具的整体方法。信任必须通过提升透明度、加强教育和促进包容性来有意识地构建。

TF：针对负责任的 AI 治理，一种批评意见是它会压制创新。您能谈谈如何在伦理与创造力之间取得平衡吗？

PB：我认为，当人们批评 AI 伦理与治理，或者质疑 AI 相关的监管时，他们表达的担忧往往是创新与创造力可能受到压制。但我想指出，许多分析人士都提到一个事实：75% 的项目最终失败。

75% 的 AI 投资以失败告终。它们陷入困境。项目停留在概念验证阶段，无法推进。它们从未带来投资者所期望的投资回报率。失败的核心原因之一是：要么 AI 没有赢得人们的信任，要么人们对 AI 过度信任。

首要任务应该是选择合适的 AI 来解决问题，增强我们的智慧，然后通过正确地运用 AI，以踏实的努力赢得人们的信任。这里没有捷径可走。

AI 系统必须能够抵御恶意攻击，必须准确体现使用者意图，并且必须保证结果公平、过程透明且真正可解释，以及维护数据隐私。智能体必须具备可观测性，以便我们追踪其实际运行情况。此外，鉴于 AI 对能源和水资源的巨大消耗，这些系统也必须兼顾环境可持续性。

没有责任，就谈不上信任。我长期研究责任问题，并已发表多篇相关 IBV 论文。Gartner 今年刚刚发布了一篇出色的论文，向其客户详细介绍了如何通过合同机制确保供应商对 AI 结果负责。

正如我先前提到的，这一切都不容易。开发值得信任的 AI 从来不是件轻松的事情，但这项工作至关重要。一旦奠定了坚实基础，您就能像赛车跑道类比所解释的那样，快速前进。尤其是在 Agentic AI 等新技术不断发展的背景下，更完善的治理将不可或缺。