05:AI 和自动化技术的道德规范
今天的决策将在未来几年产生影响
在电脑前工作的人的等距插图,屏幕投影在显示器前方
道德规范问题

生成式 AI 是一项相对较新的技术,成功将 AI 置于一个关键的历史时刻,预计将重新定义业务的本质。在 AI 投资迅速且不断扩大的环境下,尤其是考虑到生成式 AI 和基础模型带来的可能性,绝对需要 AI 道德规范来确保这些投资的寿命、合规和有效性。我们认为,信任始于公司内部的道德文化,但对于可扩展的 AI 而言,需要的是端到端操作的治理。公司今天制定的关于在何处以及如何将 AI 纳入其中的决策,将在未来几年产生影响。

查看所有章节
其他信息 报告

面向 CEO 的生成式 AI 指南

事实:虽然 79% 的受访高管表示 AI 道德规范对其企业范围内的 AI 方法很重要,但只有不到 25% 的高管实施了 AI 道德规范的共同原则。 面向 CEO 的生成式 AI 指南
设置防护措施

AI 的道德规范和治理必须主导董事会以下级别的组织讨论,因为能做什么和该做什么之间存在重要区别。这适用于 AI 在内部(权衡对员工的潜在影响)和外部(权衡对客户和更广泛世界的影响)的使用方式。

“开始推行 AI 之前,公司可以做的最关键的一件事,就是制定防护措施,以了解应该在何时何地使用 AI,包括 AI 对从最低到最高级别的工作岗位的影响。- Melissa Long Dolson

基础模型运行状况、员工和客户的隐私保护、知识产权维护、风险管理和监管合规都必须纳入这些防护措施。还应该制定明确的愿景,说明将采取哪些保护措施并层层问责。例如,IBM 在负责任 AI 的方面提出了三项原则

  • AI 的目的是增强人类智慧
  • 数据和洞察属于其创建者
  • 包括 AI 系统在内的新技术必须透明且可解释

 



AI 治理帮助构建负责任的 AI 工作流程
开始推行 AI 之前,公司可以做的最关键的一件事,就是制定防护措施,以了解应该在何时何地使用 AI。 Melissa Long Dolson
新角色和新对话

您还必须考虑新的角色,以便有效管理 AI 和 IT 自动化。例如,您是否应该聘请一位首席 AI 道德官?您是否还需要 AI 道德规范专员或 AI 道德规范委员会?或者也许您三个都需要。除了这些监督型工作之外,新的角色也在迅速兴起,包括 AI 提示和深度学习工程师、 AI 聊天机器人开发人员、 AI 设计师和 AI 审计师等。这些角色都需要有关如何负责任地进行操作的明确指导方针。

这类复杂对话没有简单的答案,但确实需要立即进行。AI 正在引发翻天覆地的变化,据世界经济论坛预测,截至 2025 年,这些新技术将扰乱全球 8,500 万个就业岗位。然而,论坛还估计将产生 9,700 万个新职位。1在这支新兴的劳动力队伍中,在 AI 的支持下,人类将需要遵循基于严格道德意识的规则。

为了更进一步探讨这个话题,我们邀请您深入了解 IBM 的生成式指南内容,负责任 AI 与道德规范

道德规范不能下放
 
第 06 章 →
如何借助 IBM 开始实现 IT 自动化
阅读第 06 章 查看所有章节