共享 IP/PI/机密信息,用户面临人工智能风险

隐私 图标代表隐私风险。
隐私
人工智能代理风险
通过代理人工智能得到加强

描述

不受限制地访问资源、数据库或工具的人工智能代理在执行操作时,可能会存储并与系统用户共享 PI/IP/ 保密信息。

为什么与用户共享 ip/pi/confidential 信息是基金会模型关注的问题?

人工智能代理可能会与用户共享特权信息。 共享信息的行为可能会对模型所有者、用户或其他人造成伤害。 根据共享信息的类型和细节,危害程度会有所不同。 如果没有足够的监督,这些隐私事件可能会使公司资源不堪重负。

母主题: 人工智能风险图集

我们提供了媒体报道的例子,以帮助解释基金会模式的许多风险。 新闻界报道的许多事件或仍在发展中,或已得到解决,参考这些事件可以帮助读者了解潜在的风险,并努力减少风险。 强调这些例子仅供参考。