什么是人工智能伦理？

AI 伦理问题的例子包括：

• 数据责任与隐私
• 公平性
• 可解释性
• 稳健性
• 透明度
• 环境可持续发展
• 包容性
• 道德能动性
• 价值观对齐
• 问责制
• 信任
• 技术滥用

如今，大多数组织都在不同程度上使用 AI 工具和大数据，以支持自动化并实现数据驱动的决策。虽然其目的通常是改善业务成果，但企业在 AI 应用中可能会遭遇意外后果，通常原因在于前期研究和设计不足，以及数据集存在偏差。这些问题凸显了以合乎伦理的方式使用 AI 系统的重要性。

研究界和数据科学界已制定 AI 伦理指南，以帮助减轻这些不可预见的后果和不公平结果。领先的 AI 公司也积极参与制定这些指南，因为它们知道，未能遵守伦理标准可能会损害其产品、服务和用户利益。在 AI 伦理方面缺乏审慎措施可能导致声誉、监管和法律风险，并带来高额处罚。

创新往往超越政府监管的发展速度，尤其是在 AI 等新兴技术领域。随着时间推移，可以预见会有更多政府出台具有法律约束力的 AI 规范，以保护人权和公民自由。虽然目前已有一些监管措施，例如《欧盟 AI 法案》，但许多现有的 AI 伦理指南仍是由科学家和行业组织提出的自愿性框架。

学术界长期以来一直依靠 1979 年《贝尔蒙报告》¹中提出的伦理原则，指导实验研究和算法开发中的伦理实践。

这些原则可为人工智能和机器学习的伦理研究、设计和应用提供基础。然而，由于这些原则是在以人类受试者为核心考量的背景下制定的，且早于现代生成式 AI 和智能体 AI 系统的出现，因此单靠这些原则并不足够。它们应被视为基础性原则，而非一套完整的 AI 原则体系。

《贝尔蒙报告》的原则包括：

在现实世界围绕 AI 技术展开的伦理讨论中，有多个问题处于核心位置。这些关注点反映了 AI 对社会可能产生的更广泛影响。其中包括：

2022 年 ChatGPT 的发布标志着人工智能的真正转折点。OpenAI 聊天机器人的能力（从撰写案情摘要到调试代码）为 AI 的功能及其在几乎所有行业的应用开辟了新的可能性。

ChatGPT 和类似的 AI 工具建立在基础模型、可适应广泛下游任务的 AI 模型之上。基础模型通常是包含数十亿参数的大规模生成模型，依赖未标注训练数据，并采用自监督学习方式进行训练。基础模型通常也称为大型语言模型 (LLM)，能够将一个场景中学习到的知识迁移至其他场景，因此具有很强的适应能力。

然而，基础模型也面临诸多潜在问题和伦理挑战，例如偏见、生成虚假内容（包括不可靠或误导性输出），以及缺乏可解释性。其中许多问题与 AI 普遍相关，但鉴于基础模型的强大功能和可用性，这些问题变得更加紧迫。

基础模型和生成式 AI (Gen AI) 模型也因其规模、通用设计以及跨领域复用的便利性而带来了伦理挑战。由于这些模型可能被部署到远离其最初训练目的的应用场景中，责任归属和问责问题变得更加复杂。模型提供商与下游部署方之间应如何分担伦理责任，往往并不明确。例如，防止模型滥用敏感数据或泄露知识产权，究竟应由谁负责：模型提供商、部署方，还是最终用户？

此外，生成式 AI 系统可能生成看似可信但错误或具有误导性的输出，并使大规模滥用成为可能。因此，基础模型伦理指南通常强调清晰的文档记录、使用限制、持续监控以及整个部署过程中的人工监督。

技术奇点是一种理论上存在的场景：技术增长变得不可控制、不可逆转，最终给人类文明带来不可预测的深远变化。虽然这个话题引起了公众的广泛关注，但许多研究人员并不在意 AI 会在不久的将来超越人类智慧的想法。

强人工智能（具备与人类同等智能和自我意识的 AI）以及超级智能仍属于假设概念。然而，这些概念引发了一些值得探讨的问题和伦理影响，涉及我们如何在自动驾驶汽车等自主系统中使用 AI。

例如，认为无人驾驶汽车永远不会发生事故是不现实的。但在这种情况下，责任应由谁承担？我们是应该继续开发自动驾驶汽车，还是只将这项技术集成限于可提升驾驶员安全的半自动驾驶汽车？

此类伦理困境远未解决，但正是新兴创新 AI 技术引发了这些争论。

尽管公众对人工智能的看法大多集中在失业问题上，但或许应该重新审视这种担忧。随着每一项颠覆性的新技术出现，我们都会看到市场对特定工作角色的需求发生了变化。

例如，随着个人电脑的普及，打字员、文件管理员等岗位逐渐减少，甚至基本消失。与此同时，全新的职业类别应运而生，例如 IT 支持、软件开发和数据录入。

人工智能也应以类似的方式看待。AI 项目的发展并不一定会导致员工规模缩减。相反，AI 更可能会推动就业需求向其他领域转移。未来仍需要专业人才来管理 AI 系统，并解决各行业中不断出现的更复杂问题。

人工智能对就业市场最重要的影响，在于帮助人们转向新的市场需求领域。

AI 模型依赖数据。因此，数据隐私、数据保护和数据安全是 AI 伦理的核心关注领域。

过去十年，政策制定者推动出台了多项重要的数据保护法规，这些法规不仅适用于传统软件，也大多适用于 AI 工具。

例如，欧盟《通用数据保护条例》（GDPR）赋予欧盟和欧洲经济区个人对其个人数据更多的控制权。在美国，州级法规（例如《加州消费者隐私法案》（CCPA））要求企业告知消费者其数据收集情况。

政府机构也开始针对个人身份信息（PII）的收集、存储和使用制定专门的 AI 相关规则。例如，2024 年，加州开始制定有关 AI 和自动化决策技术的相关规则。这些规则随后已正式确定，企业必须在 2027 年 1 月 1 日之前遵守。 

虽然企业通常出于良好目的开展 AI 和自动化工作，但训练数据集和 AI 算法中存在的偏见可能导致歧视性结果。

例如，亚马逊在发现其早期 AI 招聘工具系统性地给予女性低于男性的评分后，放弃了该工具。这是为什么？因为该工具的训练数据主要来自男性求职者的简历。

偏见和歧视并不仅存在于人力资源领域。从面部识别软件到社交媒体算法，多种应用中都可能存在这些问题。例如，面部识别工具通常更难准确识别有色人种。

随着企业越来越意识到相关风险，它们也更加积极地参与相关讨论。

例如，IBM 于 2020 年撤回了其通用面部识别和分析产品。当时，IBM 首席执行官 Arvind Krishna 写道：

“IBM 坚决反对并且不会容忍将任何技术（包括其他供应商提供的面部识别技术）用于大规模监视、种族定性、侵犯基本人权和自由或任何不符合我们的价值观以及信任和透明原则的用途。”

生成式 AI 的快速普及加剧了人们对深度伪造、自动化虚假信息以及数字信息信任受损等合成内容问题的担忧。

随着 AI 生成的文本、图像、音频和视频越来越难以与人类创作的内容区分开来，透明度要求已不再局限于模型的可解释性，还延伸至输出内容的可追溯性和披露。作为回应，政策制定者和技术提供商正在推进内容溯源机制。这些机制可能包括标签要求、水印和加密元数据等措施，以帮助用户识别 AI 生成内容。

这些方法可能带来伦理冲突，包括在稳健性、隐私和言论自由之间进行权衡，但它们越来越被视为维护数字生态系统信任的关键措施。

虽然目前尚无一部统一规范人工智能的全球性法律，但在多个司法管辖区，AI 监管已迅速从自愿性指南发展为可执行的法律框架。

《欧盟 AI 法案》（EU AI Act）于 2024 年生效，为部分 AI 应用实践设立了具有约束力的义务。这些义务包括禁止不可接受风险系统、对 AI 生成内容提出透明度要求，以及针对高风险和通用 AI 模型制定生命周期治理规则。

《欧盟 AI 法案》等法律的不断出台，表明 AI 伦理正从理想化原则转向将伦理标准与法律合规相结合的问责机制。

人工智能的表现取决于其设计、开发、训练、调优和使用方式。AI 伦理的核心是在 AI 系统生命周期的每个阶段建立相应的标准和防护机制。

组织、政府和研究人员均已制定相关框架，以应对当前 AI 伦理挑战并塑造 AI 的未来发展。尽管各类指南可能有所不同，但围绕核心 AI 治理活动已形成一定共识。

AI 伦理越来越被视为一种贯穿 AI 生命周期的持续能力，而非一套原则。有效治理需要建立持续性流程，包括风险评估、记录设计决策、监控已部署系统，以及应对意外行为或潜在危害。随着 AI 系统不断发展，伦理监督也必须随之演进，并依靠明确的责任归属和可衡量的控制措施提供支持，而不能仅依赖静态政策。

治理有助于确保 AI 系统按照组织的原则、价值观和负责任 AI 实践运行。

AI 治理计划通常包括：

• 明确参与 AI 工作人员的角色和职责，确保适当的人类监督。
  
  
• 为参与 AI 生命周期的所有人员提供培训，使其能够以负责任的方式构建和使用 AI。
  
  
• 建立 AI 系统构建、管理、监控、沟通和审计流程。
• 在整个 AI 生命周期中，利用工具提高 AI 的性能和可信度。

AI 伦理委员会是另一种有效的治理机制。例如，IBM 负责任技术委员会由来自各业务领域的多元化领导者组成，为 IBM 的 AI 伦理政策和实践提供集中化治理、审查和决策流程。

组织可以通过在产品、政策和流程中始终如一地贯彻明确的伦理原则，构建值得信赖的 AI。这些原则应聚焦于可解释性、公平性等具体领域，并围绕这些领域制定相应的标准和实践。

当 AI 从一开始就融入伦理考量时，它能够带来巨大的价值。医疗保健等领域已经从中受益。AI 正在改变放射学等领域，其检测扫描异常的速度和准确性均超过传统方法。

许多组织发现，如果将人工智能伦理视为一门融合价值观、治理和问责机制的实践学科，以支持大规模负责任创新，就能更好地获得这些益处。

伦理标准并非私营部门数据工程师和数据科学家的首要关注点。然而，一些组织已经成立，旨在推动人工智能领域的伦理实践。

这些组织包括：

• AlgorithmWatch 专注于 AI 程序中可解释、可追溯的算法和决策流程。
  
  
• AI Now Institute，纽约大学的非营利组织，研究人工智能的社会影响。
  
  
• 国防进阶版研究计划局（DARPA）推动可解释的 AI 及其 AI 研究。
  
  
• 人类兼容人工智能中心 (CHAI)是各大研究所和大学的合作组织，旨在推广值得信赖的 AI 和可证明的有益系统。

IBM 的信任与透明原则指导着其数据和 AI 开发方法。这些原则是：

1. AI 的目的是增强人类智慧。这意味着我们并不寻求用 AI 取代人类智能，而是提供支持。
   
   
2. 数据和洞察分析属于创建者。组织不应被要求放弃其数据或基于这些数据产生的洞察的权利，才能获得 AI 解决方案和服务带来的益处。
   
   
3. AI 系统必须是透明且可解释。IBM 认为，技术公司需要清楚谁在训练其 AI 系统，训练中使用了哪些数据，最重要的是算法是基于哪些数据生成了建议。

IBM 还确定了五大支柱，用于指导负责任地采用 AI 技术。

• 可解释性：AI 系统应该是透明的，尤其是其算法建议的内容，这与具有不同目标的利益相关者息息相关。
  
  
• 公平性：该支柱指 AI 系统公平对待个人或群体。经过适当校准，AI 可以帮助人类做出更公平的选择，消除人类偏见，并促进包容。
  
  
• 稳健性：人工智能驱动的系统必须积极防御对抗性攻击，最大限度地降低安全风险，让大家对系统结果充满信心。
  
  
• 透明度：为了加强信任，用户必须能够了解服务的工作原理，评估其功能并理解其优势和局限性。
  
  
• 隐私：AI 系统必须优先考虑并保障消费者的隐私和数据权利，并向用户明确保证其个人数据将如何使用和保护。