专家为您带来最新的 AI 趋势
获取有关最重要且最有趣的 AI 新闻的精选洞察分析。订阅我们的每周 Think 时事通讯。请参阅 IBM 隐私声明。
什么是负责任的 AI？
发布日期 2024年2月6日
负责任的人工智能 (AI) 是一套有助于指导 AI 设计、开发、部署和使用的原则；它们旨在建立对 AI 解决方案的信任，从而有可能进一步为组织及其利益相关者赋能。负责任的 AI 涉及将 AI 系统所引发的更广泛社会影响纳入考虑，以及使这些技术与利益相关者价值观、法律标准和道德原则保持一致而需采取的措施。负责任的 AI 旨在将这些道德规范原则嵌入到 AI 应用程序和工作流程中，以减轻与使用 AI 相关的风险和负面结果，同时最大限度地发挥积极成效。
本文旨在提供负责任 AI 的总体看法。如需详细了解 IBM 的具体观点，请参阅 AI 伦理页面。
2010 年代，在大数据与计算能力进步的助推下，机器学习得到广泛采用，但同时也带来了新的道德挑战，如偏见、透明度和个人数据使用。在此期间，随着科技公司和 AI 研究机构寻求负责任地主动管理其 AI 工作，AI 伦理便成为一门独特的学科。
企业正迅速采用的生成式 AI 工具和 AI 智能体，要求建立新的伦理使用框架。具有前瞻性的组织正在为智能体世界重新构想其负责任的 AI 原则，从而帮助采用者充分发挥这些工具的潜力，同时尽量减少不良后果。
AI 必须值得信赖；而要让利益相关者信任 AI，它就必须确保透明。技术公司必须清楚谁在训练其 AI 系统，训练中使用了哪些数据；而最重要的还有，它们的算法建议中包含哪些内容。如果我们要利用 AI 来帮助做出重要决策，那它就必须是可解释的。
负责任的 AI 是一种社会技术实践，将人员、流程、工具和治理结合在一起。它要求组织考虑 AI 系统的整个生命周期，从数据收集、模型开发到部署、监测和改进。它还需要关注 AI 对个人、组织、社会和环境的更广泛影响。
IBM 的负责任技术与治理框架将原则、属性、影响维度和治理实践整合为一种构建和部署负责任技术的统一方法。负责任的 AI 仍是该方法的核心，同时该框架将相同的治理模型扩展到智能体系统、量子计算及未来领域等新兴技术。
该框架围绕四个组成部分构建：
信任原则
IBM 对负责任技术开发和部署的基本承诺：技术应增强人类能力。
技术应基于负责任的数据治理。
技术应开放透明。
值得信赖的 AI 支柱
AI 系统为建立信任应展现的品质：透明度
公平性与人类价值观一致
稳健性
隐私
影响维度
IBM 在评估技术时考虑的更广泛成果：人类自主性与信任
社会福祉
环境可持续发展
治理
将负责任技术承诺与日常实践联系起来的计划、工具、教育、政策、合作伙伴关系和审查机制。
这些组件共同实现了通过设计将责任融入工程实践。随着 AI 系统能力增强并融入业务运营，组织应能够证明，信任已通过整合到其系统和流程中的治理而得以落实。
在企业层面实施负责任的 AI 实践需采用一种端到端的整体方法，以应对 AI 开发和部署的各个阶段。
定义负责任 AI 原则
制定一套负责任的 AI 原则，使其与企业 AI 创新的价值观和目标相一致。考虑上文“信任支柱”中所述的关键方面。此类原则可由一个专门的跨职能 AI 伦理团队制定和维护，该团队由来自不同部门的代表组成，包括 AI 专家、伦理学家、法律专家和业务领导者。
开展教育和提高认识
开展培训计划，以便对员工、利益相关者和决策者进行负责任 AI 实践的教育。其中包括了解潜在偏差、道德考量以及将负责任 AI 纳入业务运营的重要性。
在整个 AI 开发生命周期中融入道德规范
将负责任的 AI 实践嵌入从数据收集和模型训练到部署和持续监控的整个 AI 开发流程。采用技术来解决和减轻 AI 系统中的偏见。使用既定指标定期评估模型的公平性，尤其要关注种族、性别或社会经济地位等敏感属性。通过使 AI 系统可解释来优先考虑透明度。提供有关数据源、算法和决策流程的清晰文档。用户和利益相关者应该能够理解 AI 系统如何做出决策。
保护用户隐私
建立负责任的 AI 治理实践和保护措施，以保护最终用户隐私和敏感数据。明确传达数据使用政策、获得知情同意并遵守数据保护法规。
促进人类监督
在关键的决策流程中融入人类监督机制。定义明确的问责范围，以确保清晰界定责任方，且对 AI 系统产生的结果负责。对 AI 系统建立持续监控，以发现并解决随时间推移可能出现的道德问题、偏见或其他问题。定期审计 AI 模型，以评估其是否符合道德准则。
鼓励外部协作
促进与致力于 AI 安全的外部组织、研究机构和开源团体的合作。随时了解负责任的 AI 实践与计划的最新发展，并为整个行业的相关工作做出贡献。