人工智能的即时风险中的机密数据
描述
机密信息可能会作为发送给模特的提示的一部分。
为什么机密数据会引起对基础模型的关注?
如果未正确开发以保护机密数据，那么模型可能会在生成的输出中显示机密信息或 IP。 此外，最终用户的机密信息可能被无意收集和存储。
示例
保密信息的披露
根据消息来源文章，三星的员工通过使用 ChatGPT向 OpenAI 披露了机密信息。 在一个实例中，员工粘贴了保密源代码以检查错误。 在另一个案例中，一名员工与 ChatGPT 共享代码，并 "要求优化代码"。 第三次共享会议记录以转换为演示文稿的注释。 针对这些事件， Samsung 的内部 ChatGPT 使用率有限，但他们不太可能重新调用其任何数据。 此外，文章强调，为了应对泄露机密信息和其他敏感信息的风险，苹果，摩根大通等公司。 德意志银行， Verizon ，沃尔玛，三星，亚马逊和埃森哲对 ChatGPT的使用施加了一些限制。
母主题： 人工智能风险图集
我们提供了新闻报道的示例，以帮助解释许多基础模型的风险。 新闻界报道的许多事件或仍在发展中，或已得到解决，参考这些事件可以帮助读者了解潜在的风险，并努力减少风险。 突出显示这些示例仅用于说明目的。