人工智能的数据偏差风险

公平性

培训数据风险

通过生成式人工智能进行放大

通过合成数据放大

用于训练和微调模型的数据可能存在历史和社会偏见。偏差也可能继承自种子数据，或因合成数据生成方法而加剧。

在带有偏见（如历史或社会偏见）的数据上训练人工智能系统，可能会导致有偏见或倾斜的输出，从而不公平地代表或歧视某些群体或个人。

示例

医疗偏见

关于利用数据和人工智能应用改变人们接受医疗服务的方式以强化医疗差距的研究文章指出，只有努力背后的数据才是最有力的。例如，使用少数群体代表性较差或反映本来就不平等的护理的培训数据，可能会导致健康不平等的加剧。

来源：

母主题： 人工智能风险图集

我们提供了媒体报道的例子，以帮助解释基金会模式的许多风险。新闻界报道的许多事件或仍在发展中，或已得到解决，参考这些事件可以帮助读者了解潜在的风险，并努力减少风险。强调这些例子仅供参考。