AI 的属性推断攻击风险
描述
属性推理攻击会反复查询模型，以检测是否能推断出参与模型训练的个体的某些敏感特征。 当对手事先了解训练数据并使用这些知识来推断敏感数据时，会发生这些攻击。
为什么属性推断攻击是对基础模型的关注?
通过成功的攻击，攻击者可以获得敏感的个人信息或知识产权等有价值的信息。
母主题： 人工智能风险图集
我们提供了媒体报道的例子，以帮助解释基金会模式的许多风险。 新闻界报道的许多事件或仍在发展中，或已得到解决，参考这些事件可以帮助读者了解潜在的风险，并努力减少风险。 强调这些例子仅供参考。