Risiko diskriminierender Maßnahmen für AI

Fairness

Agentische KI-Risiken

Verstärkt durch agentenbasierte KI

Beschreibung

KI-Agenten können Maßnahmen ergreifen, bei denen eine Gruppe von Menschen aufgrund der Entscheidungen des Modells gegenüber einer anderen ungerechtfertigt bevorzugt wird. Dies kann durch voreingenommene Handlungen der KI-Agenten verursacht werden, die sich auf die Welt, die konsultierten Ressourcen und den Prozess der Ressourcenauswahl auswirken. Ein KI-Agent kann zum Beispiel Code erzeugen, der voreingenommen sein kann.

Warum sind diskriminierende Maßnahmen ein Problem für Stiftungsmodelle?

Diskriminierende Maßnahmen können Menschen Schaden zufügen. Diskriminierende Handlungen eines KI-Agenten könnten die Voreingenommenheit auf Systeme übertragen, die sich der Kontrolle des Besitzers des KI-Agenten entziehen, Menschen beeinträchtigen oder zu unbeabsichtigten Folgen führen.

Übergeordnetes Thema: AI-Risikoatlas

Anhand von Beispielen, über die in der Presse berichtet wurde, erläutern wir viele der Risiken der Stiftungsmodelle. Viele dieser Ereignisse, über die in der Presse berichtet wurde, sind entweder noch im Gange oder wurden bereits aufgeklärt, und ein Verweis darauf kann dem Leser helfen, die potenziellen Risiken zu verstehen und auf Abhilfemaßnahmen hinzuarbeiten. Die Hervorhebung dieser Beispiele dient lediglich der Veranschaulichung.