企业未来的最佳选择：保护生成式 AI
IBM 和 AWS 调研：当前只有不到 25% 的生成式 AI 项目得到了安全保障
长期以来，企业界一直秉持着信任是良好业务货币的观念。但是，随着 AI 改变和重新定义企业的运营方式以及客户与企业的交互方式，我们必须建立对技术的信任。
AI 的进步可以解放人力资本，使其专注于高价值的交付成果。这种演变必然会对业务增长产生变革性的影响，但用户和客户体验的关键在于组织对构建安全、负责任和值得信赖的技术解决方案的承诺。
企业必须确定与用户交互的生成式 AI 是否可信，而安全性是信任的基本组成部分。因此，这就是企业面临的最大赌注之一：保护其 AI 部署。
今天，IBM 商业价值研究院发布了由 IBM 和 AWS 共同撰写的 保护生成式 AI：现在什么最重要 研究报告，介绍了有关保护生成式 AI 部署的新数据、实践和建议。根据 IBM 的研究，82% 的高级管理层受访者表示，值得信赖的 AI 对于其企业的成功至关重要。虽然这听起来充满希望，但 69% 的受访领导者也表示，当谈到生成式 AI 时，创新优先于安全。
在创新和安全性之间优先考虑似乎是一种选择，但实际上，这是一个测试。这里存在着明显的紧张关系；企业认识到，生成式 AI 的风险比以往任何时候都要高，但他们并没有应用从以往的技术颠覆中 吸取的经验教训 。与向混合云、敏捷软件开发或零信任过渡一样，生成式 AI 的安全性可能是事后才想到的。超过 50% 的受访者担心不可预测的风险会影响生成式 AI 计划，并担心这些风险会增加业务中断的可能性。然而，他们报告称，目前只有 24％ 的生成式 AI 项目得到了安全保障。为什么会出现这样的脱节？
在安全方面优柔寡断可能既是更广泛的生成式 AI 知识差距的指标，也是其结果。近一半的受访者 (47%) 表示，他们对在生成式 AI 领域进行投资以及投资多少并不确定。即使团队正在试行新功能，领导者仍在研究哪些生成式 AI 用例最有意义，以及如何将其扩展到生产环境。
不知从何入手可能也是安全行动的阻碍因素。这就是 IBM 和 AWS 联手为寻求保护其 AI 的组织提供行动指南和实用建议的原因。
为了在其生成式 AI 中建立信任和安全性，组织必须从基础开始，以治理为基准。事实上，81% 的受访者表示生成式 AI 需要全新的安全治理模型。通过从治理、风险与合规 (GRC) 着手，领导者可以为网络安全战略奠定基础，以保护与业务目标和品牌价值保持一致的 AI 架构。
对于任何要确保安全的流程，您必须首先了解它应该如何运作以及预期的流程应该是什么样的，以便可以发现偏离。偏离其运营设计目的的 AI 可能会带来新的风险，从而对业务产生不可预见的影响。因此，识别和了解这些潜在风险有助于组织根据其独特的合规性和监管要求了解自己的风险阈值。
一旦设置了治理护栏，组织就能够更有效地制定保护 AI 管道的策略。数据、模型及其用途—以及他们正在构建和嵌入 AI 创新的底层基础架构。然而，安全分担责任模型可能会根据组织使用生成式 AI 的方式而变化。许多工具、控制和流程可用于帮助组织开发自己的 AI 业务，以帮助减轻业务影响所带来的风险。
组织还需要认识到，尽管在考虑可信的 AI 时，通常会首先想到幻觉、道德和偏见，但 AI 管道面临的威胁格局使信任本身处于危险之中。传统威胁具有新的含义，新的威胁使用攻击性 AI 功能作为新的攻击载体，而新的威胁则试图破坏我们越来越依赖的 AI 资产和服务。
安全有助于为生成式 AI 用例带来信任和信心。为了实现这种协同作用，组织必须采取集体合作的方式。对话必须超越 IS 和 IT 利益相关者，扩展到战略、产品开发、风险、供应链和用户参与。
由于这些技术具有变革性和颠覆性，因此管理组织的 AI 和生成式 AI 资产需要跨安全、技术和业务领域进行协作。
技术合作伙伴可以发挥关键作用。充分利用技术合作伙伴在威胁生命周期和整个安全生态系统中的专业知识，可以成为一笔无价的财富。事实上，IBM 的研究表明，超过 90% 的受访组织的生成式 AI 安全解决方案是通过第三方产品或技术合作伙伴启用的。在选择技术合作伙伴以满足生成式 AI 安全需求时，受访组织报告了以下观点：
- 76% 的人寻求合作伙伴，以帮助建立一个具有可靠投资回报率的令人信服的成本案例。
- 58% 的受访者寻求整体战略和路线图方面的指导。
- 76% 寻求能够促进培训、知识共享和知识转移的合作伙伴。
- 75% 的企业选择能够指导他们应对不断变化的法律和监管合规环境的合作伙伴。
该研究清楚表明，组织认识到安全性对其 AI 创新的重要性，但他们仍在努力了解如何最好地应对 AI 革命。建立可以帮助指导、咨询和为这些工作提供技术支持的关系，是受保护且可信的生成式 AI 至关重要的后续步骤。除了分享关于高管认知和优先事项的重要洞察分析外，IBM 和 AWS 还制定了一份行动指南，其中包含将您的生成式 AI 安全策略提升到新水平的实用建议。