Introduire un risque de biais de données pour l'IA
Descriptif
Les actions spécifiques entreprises par l'agent d'IA, telles que la modification d'un ensemble de données ou d'une base de données, peuvent introduire un biais dans la ressource qui est utilisée par d'autres ou par lui-même pour entreprendre des actions.
Pourquoi l'introduction d'un biais dans les données est-elle une préoccupation pour les modèles de fondation?
Les agents d'IA peuvent introduire ou amplifier des comportements discriminatoires existants. Il peut être nocif selon l'usage qui en est fait.
Préjugés en matière de soins de santé
Selon l'article de recherche sur le renforcement des disparités en médecine, l'utilisation de données et d'applications d'IA pour transformer la façon dont les gens reçoivent des soins de santé n'est aussi solide que les données qui sous-tendent l'effort. Par exemple, l'utilisation de données de formation où les minorités sont peu représentées ou qui reflètent des soins déjà inégaux peut conduire à une aggravation des inégalités en matière de santé.
Sujet parent : Atlas des risques liés à l'IA
Nous fournissons des exemples couverts par la presse afin d'expliquer de nombreux risques liés aux modèles de fondation. Nombre de ces événements couverts par la presse sont encore en cours ou ont été résolus, et le fait d'y faire référence peut aider le lecteur à comprendre les risques potentiels et à s'efforcer de les atténuer. La mise en évidence de ces exemples n'a qu'un but illustratif.