通过集成治理与安全解锁可信 AI
宣布推出 Guardium AI Security 的新功能，其中包括与 watsonx.governance 的开箱即用增强集成，帮助企业在大规模环境下保障其智能体式 AI 和其他生成式 AI 系统的安全与责任，实现值得信赖的 AI。
各组织希望借助 AI 提升员工生产力，但他们对于如何信任 AI，以及如何将 AI 实验从测试阶段转入生产阶段仍存有顾虑。AI 也在扩大攻击面，并带来独特的威胁、风险和漏洞，可能导致失去控制。组织需要对其 AI 进行恰当的管理、安全防护和治理，才能拥有值得信赖的 AI 系统。
根据 IBM 商业价值研究院在 2024 年对 高管层的调查，82% 的受访者表示，安全且可信赖的 AI 对企业成功至关重要，但目前仅有 24% 的生成式 AI 项目得到了安全保障。此外，随着组织竞相推出 AI 智能体以获得更好的业务成果，风险也会被放大。事实上，Gartner® 预测：“到 2028 年，25% 的企业安全漏洞将可追溯至 AI 智能体的滥用行为，来源既包括外部攻击者，也包括恶意的内部人员。”1
IBM Guardium AI Security 使组织能够发现影子 AI（包括 AI 智能体）、保护所有 AI 模型和用例、执行实时防护以抵御恶意提示的影响，并根据通用指标协调团队工作，以部署安全且值得信赖的 AI。
通过与 AllTrue.ai 合作，IBM 为 Guardium AI Security 提供的新功能包括：持续检测云环境、代码存储库和嵌入式系统中的新 AI 用例，从而确保在日益去中心化的 AI 生态系统中提供全面的可见性和保护。一旦确定，IBM Guardium AI Security 便会将其导入 watsonx.governance，并采取适当的风险和合规控制措施。
生成式 AI 将继续发展，带来新的功能和风险。现在投资于强健的安全与治理框架的企业，将能更好地适应这些变化，并在不断演变的监管环境下具备更强的韧性。
紧密整合的人工智能安全和治理方法至关重要。安全与治理团队必须与以下方面协同运作：
- 业务关键性安全团队：安全团队应根据 AI 项目的重要性来确定优先保障顺序，确保对高影响力的应用建立健全的安全防护措施。
- 安全状况治理团队：治理团队应能够掌握每个 AI 部署相关的安全风险及应对措施，从而对合规性和伦理问题进行有依据的监督。
通过采用这些集成实践，企业可以最大限度地发挥生成式 AI 的变革潜力，同时保护其数据、模型和声誉。通过有效执行的策略，您的组织能够自信地进行创新，领先于合规要求，并在 AI 驱动的未来中与利益相关者建立信任。
Guardium AI Security 与 watsonx.governance 之间的开箱即用集成为不同团队提供真正的风险和治理解决方案，以查看值得信赖的 AI 的指标。
Guardium AI Security 提供强大的企业级解决方案，助您管理 AI 资产的安全性，使安全和治理团队聚焦于同一组指标，以部署安全且值得信赖的 AI。它允许组织：
- 获得全面可见性：通过对云端 AI 模型、代码库和嵌入式 AI 进行自动持续监控，识别所有 AI 用例，包括检测影子 AI 和 AI 智能体的能力。
- 保护您的 AI：运用 AI SPM 通过自动化渗透测试来检测各种生成式 AI 用例中的安全漏洞和错误配置，并将其映射到领先的评估框架
- 确保 AI 使用安全：扫描并保护 AI 应用程序的不同输入或输出提示。自定义特定的安全策略，例如提示注入、PII 暴露、数据泄露等，以确保 AI 的安全。
Guardium 可帮助您在 AI 的整个生命周期内保护其安全，从发现 AI 资产到评估漏洞和错误配置，确保安全使用到管理合规性。它允许您对本地构建、云端使用或调用的模型进行安全保护，提供自动化渗透测试功能，通过 AI 防火墙扫描输入和输出提示，并在 12 个框架下管理合规性。
与 IBM watsonx.governance 的开箱即用集成，为分散的团队提供了真正的风险与治理解决方案，使其能够基于统一的指标查看业务和安全风险。当 Guardium AI Security 检测到影子 AI 时，会将其引入 watsonx.governance，按照适当的用例进行对齐，并应用相应的风险与合规控制。现在，您的治理团队和安全团队可以查看相同的 AI 库和 AI 风险，以实现可信赖的 AI。
体验业界首款将 AI 安全与 AI 治理团队整合在一起的软件，为企业的风险态势提供统一视图。
1 Gartner Press Release, Gartner Unveils Top Predictions for IT Organizations and Users in 2025 and Beyond, October 22, 2024.
GARTNER 是 Gartner, Inc. 和/或其附属公司在美国和国际上的注册商标和服务标志，经许可在本文中使用。保留所有权利。