让组织准备好扩展负责任的 agentic AI

在人工智能治理中，组织无法管控那些看不见的环节。然而，仅仅看见是不够的，除非能够同时了解人工智能 (AI) 模型和系统中存在的风险。

对于 agentic AI 等新兴技术而言，这一点尤其如此。AI 智能体可以提高效率和生产力，但是要全面了解它们带来的风险则更具挑战性。IBM 的 Manish Bhide、Heather Genile 和 Jordan Byrd 表示：“生成式 AI 和机器学习从一开始就蕴藏着很大的风险，对于某些用例尤其如此。引入 AI 智能体，风险会进一步增大。”

我们的白皮书《AI 智能体：机遇、风险及缓解措施》，对 agentic AI 带来的风险进行了全面调查，深入探索了先前已知 AI 风险的放大效益以及新涌现的独特挑战。

本文以我们针对基础模型风险及缓解措施的以往研究为基础，为从业人员提供了理解、识别和缓解风险所需的基础知识。这是朝着扩展负责任 agentic AI 迈出的重要第一步。

AI 智能体具有高度自主性，无需持续的人工监督即可完成各种任务。它们还具有四个可能带来风险的特征：

·      不透明性：对 AI 智能体内部工作原理和交互方式的了解有限，这可能会妨碍对智能体行为的理解。

·      开放性：AI 智能体可以自行选择资源、工具甚至其他 AI 智能体来完成任务，从而增加出现意外行为的可能性。

·      复杂性：随着 AI 智能体不断学习和适应，其内部运作变得越来越复杂，这使得分析变得越来越困难。

·      不可逆性：在没有人类持续监督的情况下，AI 智能体更有可能采取不可逆转的行动，并在数字和物理世界造成切实的后果。

AI 智能体的自主性和上述特征带来了潜在风险、挑战和社会影响，从业者必须了解这些风险、挑战和社会影响，才能负责任地扩展 agentic AI。

agentic AI 带来了新的风险和挑战，让 AI 风险状况变得更加复杂，而从业者在设计、开发、采用或管理先前的 AI 系统时不太可能考虑这些风险和挑战。

例如，一种新出现的风险涉及数据偏见：AI 智能体可能以某种方式修改数据集或数据库，从而造成偏见。在此示例中，AI 智能体采取的行动可能会带来切实影响，而且如果引入的偏见在未被发现的情况下扩大，则可能会造成不可逆转的影响。

agentic AI 还会加剧多个已知风险，包括系统评估难度加大以及出现无法解释或无法追踪的行为的可能性增加。从业者在使用 AI 智能体时应重新评估这些方面。

例如，AI 智能体可以不受限制地访问资源、数据库或工具，从而增大与用户共享敏感或机密信息的风险。如果没有适当的防护措施，这样的智能体可能会存储个人信息、知识产权或其他机密数据，并以不当方式与系统用户共享这些数据。我们的白皮书详细介绍了这些风险和挑战，并解释了它们的由来和潜在影响。

要解决 agentic AI 带来的独特风险和挑战，需要通过整体 AI 治理采取端到端的风险缓解方法。然而，正如 IBM 的 Phaedra Boinodiris 和 Jon Parker 最近所解释的那样：“agentic AI 发展如此之快，组织可能很难找到充分减少危害的先例或最佳实践。”

幸运的是，针对其他类型 AI（例如生成式 AI 和机器学习）的许多风险缓解战略也可以帮助降低 agentic AI 风险。例如，让人类参与到各个环节中，是所有类型负责任 AI 的最佳实践。对 AI 智能体采取的行动进行人工验证和反馈，有助于确保其准确性和相关性，并与组织价值观保持一致。

了解 agentic AI 的独特风险是在整个企业中负责任地扩展 agentic AI 并实现负责任的 AI 投资回报 (ROI) 的关键第一步。《AI 智能体：机遇、风险及缓解措施》可以帮助您更清晰地了解 agentic AI 的风险状况，并思考贵组织可以如何负责任地利用 AI 智能体带来的巨大机遇。

阅读《AI 智能体：机遇、风险及缓解措施》

了解更多关于 IBM 负责任 AI 的方法