Einführung des Risikos der Datenverzerrung bei KI
Beschreibung
Bestimmte Aktionen des KI-Agenten, wie z. B. die Änderung eines Datensatzes oder einer Datenbank, können zu Verzerrungen in der Ressource führen, die von anderen oder von ihm selbst zur Durchführung von Aktionen verwendet wird.
Warum ist die Einführung von Datenverzerrungen ein Problem für Stiftungsmodelle?
KI-Agenten können bestehende diskriminierende Verhaltensweisen einführen oder verstärken. Je nach Gebrauch kann es Menschen schaden.
Vorurteile im Gesundheitswesen
Laut dem Forschungsartikel über die Verstärkung von Ungleichheiten in der Medizin mit Hilfe von Daten und KI-Anwendungen, um die Gesundheitsversorgung der Menschen zu verändern, ist diese nur so stark wie die Daten hinter den Bemühungen. So kann beispielsweise die Verwendung von Ausbildungsdaten, in denen Minderheiten nur schwach vertreten sind oder die eine bereits ungleiche Versorgung widerspiegeln, zu einer größeren gesundheitlichen Ungleichheit führen.
Übergeordnetes Thema: AI-Risikoatlas
Anhand von Beispielen, über die in der Presse berichtet wurde, erläutern wir viele der Risiken der Stiftungsmodelle. Viele dieser Ereignisse, über die in der Presse berichtet wurde, sind entweder noch im Gange oder wurden bereits aufgeklärt, und ein Verweis darauf kann dem Leser helfen, die potenziellen Risiken zu verstehen und auf Abhilfemaßnahmen hinzuarbeiten. Die Hervorhebung dieser Beispiele dient lediglich der Veranschaulichung.