AI 的有害代码生成风险

价值定位
输出风险
生成式人工智能

描述

模型可能会生成导致损害或无意影响其他系统的代码。

为什么有害代码生成是对基础模型的关注?

执行有害代码可能会打开 IT 系统中的漏洞。

输出相关风险的背景图片
示例

生成不安全代码

根据他们的论文，斯坦福大学的研究人员调查了代码生成工具对代码质量的影响，发现程序员在使用 AI 助手时，往往会在其最终代码中包含 更多 错误。 这些错误可能会增加代码的安全漏洞，但程序员认为他们的代码 更 安全。

来源：

Neil Perry ， Megha Srivastava ， Deepak Kumar 和 Dan Boneh。 2023 年。 用户是否使用 AI 助手编写更多不安全代码? 在 2023 年 ACM SIGSAC 计算机和通信安全会议 (CCS ' 23) 的会议记录中， 2023 年 11 月 26 日至 30 日，丹麦哥本哈根。 ACM ， New York ， NY ， USA ， 15 页。

相关风险

母主题： 人工智能风险图集

我们提供了新闻报道的示例，以帮助解释许多基础模型的风险。 新闻界报道的许多事件或仍在发展中，或已得到解决，参考这些事件可以帮助读者了解潜在的风险，并努力减少风险。 突出显示这些示例仅用于说明目的。