AI 智能体蔓延：定义与控制方法

如果 AI 智能体（仅需极少人工输入即可做出决策并执行操作的自主系统）的部署缺乏统一战略或完善的治理实践，就会发生蔓延问题。AI 智能体蔓延会跨团队、跨职能部门形成冗余且分散的智能体生态系统。AI 智能体蔓延与之前的 AI 蔓延或应用程序蔓延非常相似，当速度远超可见性时，就会发生 AI 智能体蔓延：在没有组织范围的统一计划的情况下，各团队各自部署智能体来自动执行任务或管理工作流。

据 Gartner 称，到 2028 年，《财富》500 强企业平均将使用超过 150,000 个 AI 智能体。但据该公司称，只有 13% 的组织认为自己已拥有合适的 AI 智能体治理机制。这个数据道出了一个简单而紧迫的现实。智能体的构建很容易，尤其是在低代码或无代码环境中，但要负责任地部署、运行和监控智能体却困难得多。

不断蔓延、难以管理的 AI 工具生态系统还会大幅推高成本。根据美国商会的研究，58% 的小型企业已采用生成式 AI，而一些顾问表示，预算紧张的小企业每月仅花费数千美元来购买少数几个冗余的 AI 写作工具。这还不算员工的隐性成本，员工非但没有因为使用 AI 而提高工作效率，而且事实恰好相反：他们整天在不同的应用程序和平台之间切换，大幅降低了工作效率。

市场营销、财务或客户支持等各个团队在构建智能体时，其智能体可能对组织的其他部门不可见。这会形成一堆分散、孤立的智能体，而不是一个统一连贯的系统。根据 IBM 商业价值研究院的研究，仅 18％ 的组织拥有最新、完整的 AI 智能体清单，这阻碍了集成工作的推进。同类问题可能需要重复解决，各系统之间几乎没有知识传递。

智能体蔓延会导致各个系统独立运行，系统之间缺乏共享的上下文，输出结果重叠时也没有问题解决机制。缺乏集中编排，智能体可能会重复工作或产生意外的反馈回路。这些重复和回路会在互连系统中迅速放大错误。

随着智能体式 AI 的快速采用，许多组织缺乏负责任管理大型智能体网络的整体策略和流程。这意味着可能存在以下问题：

• 智能体部署前没有标准化的审批工作流

• 发生错误时，没有明确的责任归属

• 缺乏智能体退役生命周期流程，无法在不再需要时将其退役。

如果没有组织范围的治理实践，风险将呈指数级增长。

没有完善的安全与合规控制措施，AI 智能体可能会在未经适当授权的情况下访问敏感数据或绕过审计跟踪。当智能体大规模自主行动时，单个配置错误可能会给整个组织造成损失。

此类风险在金融或医疗保健等领域尤为突出，可能会意外泄露受保护的信息。如果没有单一可信信息源来解决智能体的访问权限或如何决策的问题，就不可能满足 HIPAA 或 GDPR 等监管框架。

当不同团队构建相似甚至相同的智能体时，每个团队都会产生基础设施成本。随着时间的推移，计算资源和 API 令牌的价格以及第三方许可成本持续累积，成本不断增加。而未正确下线的 AI 系统在退役后仍可能继续消耗资源，占用预算并浪费宝贵的资源。

当智能体网络分散且孤立时，更难以实现有效扩展。无序蔓延的智能体生态系统可能难以维护和优化。孤立构建的智能体可能会造成重复工作，但更重要的是，它们缺乏共享工具。这种共享工具有可能重塑跨部门的工作实践，让智能体更易于监控和记录。

如果智能体出错且未迅速确认责任团队，智能体蔓延还会导致事件响应速度显著变慢。当事件源于智能体受到攻击或未经授权使用数据，且涉及复杂、相互依赖且行为不可解释的智能体时，响应事件会面临严重风险。

根据 Salesforce 的 2026 年连接基准报告，组织平均使用至少 12 个 AI 智能体，但其中 50％ 是在孤岛中运行，而非协调系统的组成部分。如果不进行有意协调，可能会多次构建相同的数据管道，每个智能体系统都有自己的事实版本。这可能会导致相互矛盾的输出结果。

数据碎片化使沿袭跟踪变得复杂，难以审计是哪个智能体做出的特定决策。数据碎片化还让组织无法实现可无缝共享适当数据的跨部门自治生态系统的真正价值。

智能体蔓延和影子 AI 是相关但不同的术语。影子 AI 描述的是员工使用未经授权的工具。例如，一名营销负责人使用个人的大语言模型账户（如 ChatGPT）来处理工作文件。而 AI 智能体蔓延描述的是一种结构性现象。即便是获得批准、IT 认可的智能体，如果其部署未经协调，也会导致蔓延。

但是，正如 Gartner 研究发现，AI 智能体蔓延有时会无意中导致更多人改为使用影子 AI。Gartner 高级总监分析师 Max Goss 写道：“首席信息官和 IT 负责人看到组织内的 AI 智能体爆炸式增长时，许多情况下都面临智能体缺乏治理的问题，这会让组织面临一系列风险，包括过度共享和数据丢失。”他还补充说，许多企业倾向于阻止或限制智能体的使用。不幸的是，这种策略会诱使员工转而使用影子 AI，带来更严重的安全和合规风险。

AI 智能体蔓延反映了企业的技术发展速度超出了组织的治理能力这一最新形势。这种发展模式正以越来越快的速度重复上演。例如，SaaS 蔓延和影子 IT 是云技术导致的：云技术让新软件更易于采用，而负责集中管理的 IT 部门往往对各部门采用的新软件并不知情。

智能体式 AI 具备重塑工作流、构建高效人机合作的潜力，因此得到了广泛的采用。根据 IBM 的内部研究，大多数企业已经在某种程度上使用 AI 智能体。

随着能够快速创建智能体的 AI 工具大量涌现，构建智能体工具不再必须依赖软件工程师，漫长的微调过程也不复存在。Microsoft 的 Copilot Studio 和 Salesforce 的 AgentForce 等工具支持低代码和无代码智能体开发选项，这些功能强大的解决方案同时还鼓励跨部门快速部署。同一项 IBM 内部研究发现，大量企业表示 AI 蔓延已经带来了安全风险，并造成了不必要的复杂性。

这带来了重大影响：大型企业中几乎每个部门都有部署自主 AI 智能体的能力，但却缺乏控制和管理这些庞大网络的机制。然而，AI 和智能体平台开发的民主化，以及这类技术所承诺的真正商业收益，让大家很难放弃使用它们。负责任地治理 AI 智能体需要集中式、有针对性的方法，大规模监控和优化智能体行为。

缺乏可扩展模型来控制整个组织的 AI 使用，也阻碍了整个企业范围内的协调工作。在 IBM 最新一期 Mixture of Experts 播客中，Matt Kosinski 表示：“没有哪个客户的组织中不存在至少 60 起由影子 IT、影子 AI 引发的随机 AI 行为。而且每个部门和高管都声称，实际上我才是获得采购、人力资源或这个业务部门授权的负责人。”

要治理无法看见的事物非常困难。成功控制智能体蔓延的尝试始于建立全面的清单：这可能涉及自动扫描云环境和 API，以发现所有运行中的智能体。还应建立机制，发现通过非官方渠道运行的非正式自主智能体。建立持续的发现流程而非一次性审计会有帮助，因为不断有新的智能体进入生态系统。在此期间，成功的蔓延控制计划将包括建立企业范围内的集中清单，以跟踪智能体的所有者、用途和数据访问权限。

一旦智能体成为整个组织中的已知实体，组织就应定义明确的规则，说明谁可以创建、部署和共享智能体，并针对 AI 工具制定合规规则。应仔细监控数据使用、速率限制和连接工具，并使用智能体清单构建自适应控制措施，根据智能体的风险级别实施正确的策略。

标准化有助于减少未来的蔓延问题。限制用于创建智能体的平台数量，以降低架构复杂度，同时建立对智能体使用情况的持续可见性，以确保符合标准化策略合规要求。实时仪表板可以帮助检测异常行为，并纠正行为不当或超出其预期范围的智能体。当通过企业的标准路径构建新智能体比在外部构建更容易时，治理可能会形成自我强化的良性循环。

应对智能体蔓延的有效方法是将特定工具包与有针对性的组织流程相结合。最强大的解决方案正日益实现无缝集成：例如，编码工具与编排层和企业控制平面协同工作，在整个开发生命周期中持续构建、监控和优化智能体式 AI。

企业控制平面是集中管理层，为组织提供对自主系统的可见性和控制。这些管理层位于 AI 智能体、LLM 和其他 AI 工具之上，扮演着类似任务控制中心的角色。控制平面通常允许企业从单一来源观察、配置和治理自主系统。

对抗影子 AI 和智能体蔓延需要强大、标准化且安全的编码合作伙伴。当今的企业 AI 开发合作伙伴（例如 IBM Bob）基于结构化框架构建，并嵌入到软件开发生命周期的每个步骤中——从规划到测试和运营。通过从一开始就提供标准化的透明度和安全控制，这些工具让组织能够快速扩展并保持控制，同时显著减少蔓延。

在 Bob 的案例中，开发工具与 watsonx Orchestrate 无缝集成，这是一个集中控制平面。这些系统协同工作，可以解决实时问题，提出修复建议，并构建新的智能体来解决这些问题。他们还会创建自我记录的智能体工作流，确保每个操作都可审计且可追溯。

AI TRiSM 工具（由 Gartner 定义的一类工具）提供对 AI 行为的持续监控。它们通常会检测异常情况、执行防护措施，并发现违反策略的行为。这些工具将 AI 智能体视为可观察且可审计的实体，应用运行时控制，无需完全重构智能体。

治理框架为组织制定了谁可以部署智能体以及应遵循哪种审批框架的规则。治理框架还可能规定允许使用哪些数据源，以及智能体发布前应满足哪些性能标准。最有效的治理框架会明确责任归属和权限，定义升级路径，并与现有企业风险流程无缝集成，而非作为并行流程单独运行。

智能体注册表通过将整个组织中部署的所有 AI 智能体编成目录，充当单一可信信息源。注册表记录了智能体的目的、所有者、数据访问、模型版本和运行状态等变量。

这些数据库将 AI 生态系统转变为已知、可管理的智能体清单。现代清单通常是动态的：智能体在部署时自动注册并自动更新状态，而不是依赖容易出错的手动记录。

通常情况下，蔓延可能是退役失败造成的：智能体被部署后，永远不会退役。生命周期管理工具从开发之初就强制执行已定义的系统，定期触发审查，并自动显示处于休眠状态的智能体。

编排平台不是让智能体孤立运行，而是协调各个多智能体工作流，定义智能体如何通信、分享上下文、移交任务并上报给人类。通过明确智能体之间的关系并使其可观测，编排减少了冗余，并为监控、优化、记录和访问控制提供了一个自然的集成点。