Wie sollte ein Framework für die KI-Ethik-Governance aussehen?

Während sich der Wettlauf um die generative KI intensiviert, wird auch die ethische Debatte rund um die Technologie fortgeführt. Und die Risiken werden immer größer.

Laut Gartner sind „Unternehmen dafür verantwortlich, sicherzustellen, dass KI-Projekte, die sie entwickeln, bereitstellen oder nutzen, keine negativen ethischen Konsequenzen haben.“ Unterdessen sagen 79 % der Führungskräfte, dass KI-Ethik für ihren unternehmensweiten KI-Ansatz wichtig ist, aber weniger als 25 % haben ethische Governance-Prinzipien operationalisiert.

Auch für die US-Regierung steht KI ganz oben auf der Liste der wichtigsten Themen. Ende Februar kündigten Sprecher Mike Johnson und der demokratische Fraktionsvorsitzende Hakeem Jeffries die Einrichtung einer überparteilichen Arbeitsgruppe für KI an, die untersuchen soll, wie der Kongress sicherstellen kann, dass Amerika weiterhin eine führende Rolle bei globalen KI-Innovationen einnimmt. Die Task Force wird auch die erforderlichen Schutzmaßnahmen prüfen, um die Nation vor aktuellen und zukünftigen Bedrohungen zu schützen und die Entwicklung sicherer und vertrauenswürdiger Technologien zu gewährleisten.

Es ist klar, dass gute Regierungsführung unerlässlich ist, um die mit KI verbundenen Risiken anzugehen.

Da Unternehmen KI zunehmend in ihre täglichen Abläufe integrieren, ist der ethische Einsatz dieser Technologie zu einem viel diskutierten Thema geworden. Das Problem besteht darin, dass Unternehmen sich oft auf allgemeine Unternehmensgrundsätze stützen, kombiniert mit rechtlichen oder unabhängigen Überprüfungsgremien, um die ethischen Risiken einzelner KI-Anwendungsfälle zu beurteilen.

Laut einer Fallstudie von Gartner können ethische Prinzipien für KI jedoch zu breit gefasst oder zu abstrakt sein. Dann stehen die Projektleiter vor der schwierigen Entscheidung, ob einzelne KI-Anwendungsfälle ethisch vertretbar sind oder nicht. In der Zwischenzeit haben die Teams der Rechtsabteilung und des Prüfungsausschusses keinen Überblick darüber, wie KI tatsächlich im Unternehmen eingesetzt wird. All dies öffnet die Tür für einen (absichtlichen oder unabsichtlichen) unethischen Einsatz von KI und damit verbundene Geschäfts- und Compliance-Risiken.

Angesichts der potenziellen Auswirkungen muss das Problem zunächst auf Regierungsebene angegangen werden. Anschließend muss die organisatorische Umsetzung mit den entsprechenden Kontrollmechanismen erfolgen.

Laut der Fallstudie haben Führungskräfte aus den Bereichen Wirtschaft und Datenschutz bei IBM ein Governance-Framework entwickelt, um ethische Bedenken im Zusammenhang mit KI-Projekten anzugehen. Dieses Framework wird durch vier zentrale Rollen unterstützt:

1. Politikberatungsausschuss: Die Führungskräfte sind verantwortlich für die Festlegung globaler regulatorischer und politischer Ziele sowie für die Festlegung von Risiken und Strategien in Bezug auf Datenschutz, Daten und Technologieethik.

2. KI-Ethikbeirat: Der Beirat, der vom globalen KI-Ethikbeauftragten von IBM Research und dem Chief Privacy and Trust Officer gemeinsam geleitet wird, besteht aus einem funktionsübergreifenden und zentralisierten Team, das die KI-Ethikrichtlinien, -praktiken und -kommunikation von IBM festlegt, pflegt und dazu berät.

3. KI-Ethik-Schwerpunkte: Jeder Geschäftsbereich und Unternehmensbereich verfügt über Schwerpunkte (Vertreter von Geschäftsbereichen und Unternehmensbereichen), die als erste Anlaufstelle fungieren, um proaktiv technische Ethikbedenken zu identifizieren und zu bewerten, Risiken für einzelne Anwendungsfälle zu mindern und Projekte zur Prüfung an den KI-Ethikausschuss weiterzuleiten. Ein großer Teil der KI-Governance hängt von diesen Personen ab, wie wir später sehen werden.

4. Advocacy-Netzwerk: Ein Basisnetzwerk von Mitarbeitern, die eine Kultur ethischer, verantwortungsvoller und vertrauenswürdiger KI-Technologie fördern. Diese Fürsprecher leisten ihren Beitrag zu offenen Arbeitsgruppen und helfen dabei, Initiativen zur KI-Ethik im gesamten Unternehmen auszuweiten.

Wenn ein Problem mit der KI-Ethik festgestellt wird, wird der Focal Point, der der Geschäftseinheit des Anwendungsfalls zugewiesen ist, eine Bewertung einleiten. Der Focal Point führt diesen Prozess an vorderster Front durch, was die Triage von Fällen mit geringem Risiko ermöglicht. Bei Fällen mit höherem Risiko wird eine formale Risikobewertung durchgeführt und dem KI-Ethikausschuss zur Prüfung vorgelegt.

Jeder Anwendungsfall wird anhand von Richtlinien bewertet, die Folgendes umfassen:

• Zugehörige Eigenschaften und Verwendungszweck: Untersucht die Art, den Verwendungszweck und das Risikoniveau eines bestimmten Anwendungsfalls. Könnte der Anwendungsfall Schaden verursachen? Wer ist der Endverbraucher? Werden individuelle Rechte verletzt?

• Einhaltung gesetzlicher Vorschriften: Es wird geprüft, ob die Daten sicher und in Übereinstimmung mit den geltenden Datenschutzgesetzen und Branchenvorschriften verarbeitet werden.

• Zuvor geprüfte Anwendungsfälle: Bietet Erkenntnisse und nächste Schritte aus Anwendungsfällen, die zuvor vom KI-Ethikrat geprüft wurden. Enthält eine Liste der KI-Anwendungsfälle, die der Genehmigung des Vorstands bedürfen.

• Übereinstimmung mit den Grundsätzen der KI-Ethik: Legt fest, ob Anwendungsfälle grundlegende Anforderungen erfüllen, wie z. B. die Übereinstimmung mit den Grundsätzen der Fairness, Transparenz, Erklärbarkeit, Robustheit und Privatsphäre.

Laut dem Bericht von Gartner hat die Implementierung eines Frameworks für KI-Governance IBM folgende Vorteile gebracht:

• Skalierung von KI-Ethik: Focal Points fördern die Einhaltung von Vorschriften und initiieren Reviews in ihren jeweiligen Geschäftsbereichen, was eine KI-Ethikprüfung in großem Maßstab ermöglicht.

• Stärkere strategische Ausrichtung der KI-Ethikvision: Focal Points verbinden sich mit technischen, intellektuellen und geschäftlichen Führungskräften im Bereich der KI-Ethik in der gesamten Branche und weltweit.

• Beschleunigter Abschluss von Projekten und Vorschlägen mit geringem Risiko: Durch die Auswahl von Dienstleistungen oder Projekten mit geringem Risiko ermöglichen Focal Points die Funktion, Projekte schneller zu überprüfen.

• Verbesserung der Bereitschaft und Vorbereitung des Gremiums: Indem die Ansprechpartner befähigt werden, die KI-Ethik frühzeitig im Prozess zu steuern, kann das KI-Ethikgremium alle verbleibenden Anwendungsfälle effizienter prüfen.

Als ChatGPT im Juni 2020 sein Debüt gab, war die ganze Welt voller Erwartungen. Aktuelle KI-Trends deuten auf realistischere Erwartungen an die Technologie hin. Standalone-Tools wie ChatGPT mögen zwar das Interesse der Öffentlichkeit wecken, doch eine effektive Integration in etablierte Dienste wird tiefgreifendere Veränderungen in allen Branchen bewirken.

Zweifellos öffnet KI die Tür zu leistungsstarken neuen Tools und Techniken, um die Arbeit zu erledigen. Die damit verbundenen Risiken sind jedoch ebenfalls real. Verbesserte multimodale KI-Fähigkeiten und niedrigere Einstiegsbarrieren laden auch zu Missbrauch ein: Deepfakes, Datenschutzprobleme, die Aufrechterhaltung von Vorurteilen und sogar die Umgehung von CAPTCHA-Sicherheitsmaßnahmen könnten für Bedrohungsgruppen immer einfacher werden.

Während Kriminelle bereits KI einsetzen, muss auch die legitime Geschäftswelt vorbeugende Maßnahmen ergreifen, um die Sicherheit von Mitarbeitern, Kunden und Gemeinschaften zu gewährleisten.

ChatGPT erklärt: „Zu den negativen Folgen könnten Verzerrungen durch KI-Algorithmen, Datenschutzverletzungen, eine Verschärfung gesellschaftlicher Ungleichheiten oder unbeabsichtigte Schäden für Einzelpersonen oder Gemeinschaften gehören. Außerdem könnten unethische KI-Praktiken Auswirkungen auf das Vertrauen, den Ruf oder rechtliche Konsequenzen haben."

Um sich vor solchen Risiken zu schützen, ist eine ethische KI-Governance unerlässlich.