Was ist KI-Verzerrung?

Wenn KI-Verzerrungen nicht korrigiert werden, können sie den Erfolg eines Unternehmens beeinträchtigen und Menschen die Teilhabe an der Wirtschaft und Gesellschaft erschweren. Verzerrungen verringern die Genauigkeit von KI und damit ihr Potenzial.

Unternehmen profitieren weniger wahrscheinlich von Systemen, die verzerrte Ergebnisse liefern. Und Skandale, die auf KI-Verzerrungen zurückzuführen sind, könnten das Misstrauen bestehender und potenzieller Kunden verstärken.

Die Modelle, auf denen KI-Bemühungen basieren, nehmen die Vorurteile der Gesellschaft auf, die in den Unmengen von Daten, auf denen sie trainiert werden, unbemerkt eingebettet sein können. Historisch voreingenommene Datenerhebungen, die gesellschaftliche Ungleichheiten widerspiegeln, werden historisch marginalisierten Gruppen in Anwendungsfällen wie Personaleinstellung, Polizeiarbeit, Kreditwürdigkeitsprüfung und vielen anderen zum Nachteil. The Wall Street Journal berichtet: „Während der Einsatz von künstlicher Intelligenz immer weiter verbreitet wird, kämpfen Unternehmen immer noch damit, gegen die weit verbreitete Voreingenommenheit anzugehen.“¹

Verzerrte Ergebnisse können Unternehmen und der Gesellschaft im Allgemeinen schaden. Hier sind einige der häufigsten Arten von KI-Verzerrungen⁷.

• Algorithmusverzerrung: Fehlinformationen können entstehen, wenn das Problem oder die gestellte Frage nicht ganz korrekt oder spezifisch ist oder wenn das Feedback an den Algorithmus für maschinelles Lernen nicht zur Lösungsfindung beiträgt.
  
  
• Kognitive Voreingenommenheit: KI-Technologie erfordert menschlichen Input, und Menschen sind fehlbar. Persönliche Voreingenommenheit kann sich einschleichen, ohne dass die Anwender es bemerken. Dies kann sich entweder auf den Datensatz oder das Verhalten des Modells auswirken.
  
  
• Konfirmationsverzerrung: Eng verwandt mit der kognitiven Voreingenommenheit ist dies der Fall, wenn sich die KI zu sehr auf bereits bestehende Überzeugungen oder Trends in den Daten verlässt - und so bestehende Vorurteile verdoppelt und nicht in der Lage ist, neue Muster oder Trends zu erkennen.

• Ausschlussverzerrung: Diese Art von Verzerrung tritt auf, wenn wichtige Daten aus den verwendeten Daten ausgelassen werden, oft weil die Entwickler neue und wichtige Faktoren nicht erkannt haben.
  
  
• Messverzerrung: Eine Messverzerrung wird durch unvollständige Daten verursacht. Meistens handelt es sich dabei um ein Versehen oder einen Mangel an Vorbereitung, der dazu führt, dass der Datensatz nicht die gesamte zu berücksichtigende Grundgesamtheit enthält. Wenn zum Beispiel eine Hochschule die Faktoren für einen erfolgreichen Abschluss vorhersagen wollen würde, aber nur die Absolventen einbeziehen würde, dann würden bei den Antworten die Faktoren, die einige zum Studienabbruch veranlassen, völlig fehlen.

• Outgroup-Homogenitätsverzerrung: Dies ist ein Fall von Unwissenheit über das, was man nicht weiß. Menschen neigen dazu, die Mitglieder der Ingroup - der Gruppe, zu der sie gehören – besser zu verstehen und zu glauben, dass sie vielfältiger sind als die Mitglieder der Outgroup. Dies kann bei der Entwicklung von Algorithmen dazu führen, dass diese schlechter zwischen Personen unterscheiden können, die nicht zur Mehrheitsgruppe in den Trainingsdaten gehören. Und das kann wiederum zu rassistischen Verzerrungen, Fehlklassifizierungen und falschen Antworten führen.

• Vorurteilsverzerrung: Tritt auf, wenn Stereotypen und fehlerhafte gesellschaftliche Annahmen ihren Weg in den Datensatz des Algorithmus finden, was unweigerlich zu verzerrten Ergebnissen führt. So könnte die KI beispielsweise Ergebnisse liefern, die zeigen, dass nur Männer Ärzte sind und alle Krankenschwestern weiblich sind.
  
  
• Erinnerungsverzerrung: Dies tritt bei der Datenkennzeichnung auf, bei der Beschriftungen durch subjektive Beobachtungen uneinheitlich angewendet werden.
  
  
• Stichproben-/Selektionsverzerrung: Dieses Problem tritt auf, wenn die zum Trainieren des maschinellen Lernmodells verwendeten Daten nicht groß genug, nicht repräsentativ genug oder zu unvollständig sind, um das System ausreichend zu trainieren. Wenn alle Lehrer, die für das Training eines KI-Modells herangezogen werden, die gleichen akademischen Qualifikationen haben, dann müssen auch alle zukünftigen Lehrer die gleichen akademischen Qualifikationen haben.
  
  
• Stereotypisierende Verzerrung: Dies geschieht, wenn ein KI-System – in der Regel unbeabsichtigt – schädliche Stereotypen verstärkt. Ein Sprachübersetzungssystem könnte zum Beispiel einige Sprachen mit bestimmten Geschlechtern oder ethnischen Stereotypen assoziieren. McKinsey warnt vor dem Versuch, Vorurteile aus Datensätzen zu entfernen: „Ein naiver Ansatz besteht darin, geschützte Klassen (wie Geschlecht oder Ethnie) aus den Daten zu entfernen und die Bezeichnungen zu löschen, die für die Voreingenommenheit des Algorithmus sorgen. Dieser Ansatz funktioniert jedoch möglicherweise nicht, da die entfernten Bezeichnungen das Verständnis des Modells beeinträchtigen und die Genauigkeit Ihrer Ergebnisse verschlechtern.“²

Der erste Schritt, um die Verzerrungsfalle zu vermeiden, besteht darin, zu Beginn einen Schritt zurückzutreten und über eine KI-Anwendung nachzudenken. Wie bei fast allen geschäftlichen Herausforderungen ist es viel einfacher, die Probleme im Vorfeld zu lösen, als auf die Katastrophe zu warten und dann den Schaden zu beseitigen. Aber viele Unternehmen haben es eilig, was sie teuer zu stehen kommen kann.

Die Identifizierung und Bekämpfung von Verzerrungen in der KI erfordert eine KI-Governance, also die Fähigkeit, die KI-Aktivitäten eines Unternehmens zu steuern, zu verwalten und zu überwachen. In der Praxis schafft die KI-Governance eine Reihe von Richtlinien, Praktiken und Rahmenbedingungen, die die verantwortungsvolle Entwicklung und Nutzung von KI-Technologien leiten. Wenn die KI-Governance gut gemacht wird, sorgt sie dafür, dass Unternehmen, Kunden, Mitarbeiter und die Gesellschaft insgesamt gleichermaßen davon profitieren.

KI-Governance umfasst oft Methoden, die darauf abzielen, Fairness, Gerechtigkeit und Inklusion zu bewerten. Ansätze wie die kontrafaktische Fairness identifizieren Voreingenommenheit in den Entscheidungen eines Modells und gewährleisten gerechte Ergebnisse, selbst wenn sensible Merkmale wie Geschlecht, ethnische Herkunft oder sexuelle Orientierung geändert werden.

Aufgrund der Komplexität von KI kann ein Algorithmus ein Black-Box-System sein, bei dem nur wenig Einblick in die Daten besteht, die zu seiner Erstellung verwendet wurden. Transparenzpraktiken und -technologien tragen dazu bei, dass bei der Entwicklung des Systems unvoreingenommene Daten verwendet werden und die Ergebnisse fair sind. Unternehmen, die sich für den Schutz der Kundendaten einsetzen, schaffen Vertrauen in ihre Marke und sind eher in der Lage, vertrauenswürdige KI-Systeme zu entwickeln.

Um eine weitere Ebene der Qualitätssicherung zu schaffen, sollten Sie ein „Human-in-the-Loop“-System einrichten, das Optionen anbietet oder Empfehlungen ausspricht, die dann durch menschliche Entscheidungen genehmigt werden können.

Hier ist eine Checkliste von sechs Prozessschritten, damit KI-Programme frei von Verzerrung bleiben.

1. Wählen Sie das richtige Lernmodell: Bei Verwendung eines überwachten Modells wählen die Stakeholder die Trainingsdaten. Es ist entscheidend, dass das Stakeholder-Team vielfältig aufgestellt ist (also nicht nur aus Data Scientists bestehen sollte) und dass es geschult wurde, um Verzerrung zu vermeiden. Unbeaufsichtigte Modelle verwenden KI allein, um Verzerrung zu erkennen. Tools zur Vermeidung von Verzerrung müssen in das neuronale Netzwerk integriert werden, damit es lernt, was voreingenommen ist.

2. Trainieren mit den richtigen Daten: Maschinelles Lernen, das mit den falschen Daten trainiert wurde, führt zu falschen Ergebnissen. Welche Daten auch immer in die KI einfließen, sie sollten vollständig und ausgewogen sein, um die tatsächliche demografische Zusammensetzung der betrachteten Gruppe zu replizieren.

3. Wählen Sie ein ausgewogenes Team: Je vielfältiger das KI-Team – in Bezug auf Ethnie, Wirtschaftlichkeit, Bildungsniveau, Geschlecht und Stellenbeschreibung – desto wahrscheinlicher ist es, dass es Verzerrungen erkennt. Die Talente und Perspektiven eines gut aufgestellten KI-Teams sollten KI-Business-Innovatoren, KI-Entwickler, KI-Implementierer und eine Vertretung der Nutzer dieses spezifischen KI-Projekts umfassen.³

4. Bewusste Durchführung der Datenverarbeitung: Unternehmen müssen sich bei jedem Schritt der Datenverarbeitung über Verzerrungen im Klaren sein. Das Risiko liegt nicht nur in der Datenauswahl: Ob bei der Vorverarbeitung, der Verarbeitung oder der Nachverarbeitung, an jedem Punkt können sich Verzerrungen einschleichen und in die KI einfließen.

5. Kontinuierliche Überwachung: Kein Modell ist jemals vollständig oder dauerhaft. Laufende Überwachung und Tests mit realen Daten aus dem gesamten Unternehmen können zur Aufdeckung und Korrektur von Verzerrungen beitragen, bevor sie Schaden anrichten. Zur weiteren Vermeidung von Verzerrungen sollten Unternehmen Bewertungen durch ein unabhängiges Team innerhalb des Unternehmens oder einen vertrauenswürdigen Dritten in Betracht ziehen.

6. Vermeiden Sie Infrastrukturprobleme: Abgesehen von menschlichen Einflüssen und Dateneinflüssen kann die Infrastruktur selbst manchmal zu Verzerrungen führen. Wenn zum Beispiel Daten von mechanischen Sensoren verwendet werden, könnte das Equipment selbst Verzerrungen erzeugen, wenn die Sensoren nicht richtig funktionieren. Diese Art von Verzerrung ist mitunter schwer zu erkennen und erfordert Investitionen in die neuesten digitalen und technologischen Infrastrukturen.