Was ist KI-Transparenz?

Forscher beschreiben künstliche Intelligenz manchmal als „Blackbox“, da es aufgrund der zunehmenden Komplexität der Technologie immer noch schwierig sein kann, KI-Ergebnisse zu erklären, zu verwalten und zu regulieren. KI-Transparenz hilft, diese Blackbox zu öffnen, um die KI-Ergebnisse und die Art und Weise, wie Modelle Entscheidungen treffen, besser zu verstehen.

Immer mehr Branchen (darunter Finanzwesen, Gesundheitswesen, Personalwesen (HR) und Strafverfolgung) verlassen sich bei der Entscheidungsfindung auf KI-Modelle . Wenn die Menschen besser verstehen, wie diese Modelle trainiert werden und wie sie die Ergebnisse bestimmen, wächst das Vertrauen in KI-Entscheidungen und die Unternehmen, die sie einsetzen.

Eine transparente und vertrauenswürdige KI kann dadurch erreicht werden, dass die KI-Entwickler ihre Wege offenlegen. Sie können die Logik und Argumentation des zugrunde liegenden KI-Algorithmus, die zum Trainieren des Modells verwendeten Dateneingaben, die zur Modellevaluierung und -validierung verwendeten Methoden und vieles mehr dokumentieren und teilen. Auf diese Weise können die Stakeholder die Vorhersagegenauigkeit des Modells im Hinblick auf Fairness, Drift und Verzerrungen bewerten.

Ein hohes Maß an Transparenz ist für eine verantwortungsvolle KI unerlässlich. Verantwortungsvolle KI ist eine Reihe von Prinzipien, die bei der Konzeption, Entwicklung, Bereitstellung und Nutzung von KI helfen. Die Studie befasst sich mit den breiteren gesellschaftlichen Auswirkungen von KI-Systemen und den Maßnahmen, die erforderlich sind, um diese Technologien mit den Werten der Stakeholder, rechtlichen Standards und ethischen Überlegungen in Einklang zu bringen.

KI-Anwendungen wie Chatbots mit generativer KI, virtuelle Agenten und Empfehlungsengines werden mittlerweile täglich von mehreren zehn Millionen Menschen auf der ganzen Welt genutzt. Die Transparenz der Funktionsweise dieser KI-Tools ist für diese Art der Entscheidungsfindung, bei der es um wenig Geld geht, wahrscheinlich nicht von Belang: Sollte sich das Modell als ungenau oder verzerrt erweisen, verlieren die Nutzer im Falle eines Falles lediglich etwas Zeit oder verfügbares Einkommen.

Immer mehr Sektoren setzen jedoch KI-Anwendungen ein, um wichtige Entscheidungen zu treffen. Beispielsweise hilft KI Unternehmen und Nutzern heute bei Investitionsentscheidungen, medizinischen Diagnosen, Einstellungsentscheidungen, strafrechtliche Verurteilungen und vielem mehr. In diesen Fällen sind die potenziellen Folgen von verzerrten oder ungenauen KI-Outputs weitaus gefährlicher. Menschen können lebenslange Ersparnisse, Karrierechancen oder Jahre ihres Lebens verlieren.

Damit Stakeholder darauf vertrauen können, dass KI effektive und faire Entscheidungen für sie trifft, müssen sie Einblick in die Funktionsweise der Modelle, die Logik der Algorithmen und die Art und Weise, wie das Modell auf Genauigkeit und Fairness geprüft wird, erhalten. Außerdem müssen sie mehr über die Daten wissen, die zum Trainieren und Abstimmen des Modells verwendet werden, einschließlich der Datenquellen und der Art und Weise, wie Daten verarbeitet, gewichtet und gekennzeichnet werden.

KI-Transparenz schafft nicht nur Vertrauen, sondern fördert auch den Wissensaustausch und die Zusammenarbeit im gesamten KI-Ökosystem und trägt so zu Fortschritten in der KI-Entwicklung bei. Und durch die standardmäßige Transparenz können sich Unternehmen stärker auf den Einsatz von KI-Technologien konzentrieren, um Geschäftsziele zu erreichen – und sie müssen sich weniger Gedanken über die Zuverlässigkeit der KI machen.

Das Geflecht der regulatorischen Anforderungen rund um den Einsatz von KI entwickelt sich ständig weiter. Transparente Modellprozesse sind entscheidend für die Einhaltung dieser Vorschriften und für die Bearbeitung von Anfragen von Modellvalidatoren, Wirtschaftsprüfern und Regulierungsbehörden. Die EU-Verordnung über künstliche Intelligenz (KI-Verordnung) gilt als der weltweit erste umfassende Rechtsrahmen für KI.

Das EU-Gesetz zur künstlichen Intelligenz verfolgt einen auf Risiken basieren Ansatz und wendet unterschiedliche Regeln auf KI-Systeme an, je nachdem, welches Risiko sie darstellen. Es verbietet einige KI-Anwendungen und setzt strenge Anforderungen bei Richtlinien, beim Risikomanagement und bei der Transparenz für andere voraus. Für bestimmte Arten von KI bestehen zusätzliche Transparenzpflichten. Einige Beispiele:

• KI-Systeme, die direkt mit Personen interagieren sollen, müssen so gestaltet sein, dass sie die Nutzer darüber informieren, dass sie mit einem KI-System interagieren, es sei denn, dies ist für den Einzelnen aus dem Kontext offensichtlich. Ein Chatbot muss zum Beispiel so gestaltet sein, dass er die Nutzer darauf hinweist, dass er ein Chatbot ist.
  
  
• KI-Systeme, die Text, Bilder oder bestimmte andere Inhalte erzeugen, müssen maschinenlesbare Formate verwenden, um die Ausgaben als von KI erzeugt oder bearbeitet zu kennzeichnen. Das gilt zum Beispiel für KI, die Deepfakes erzeugt – also Bilder oder Videos, die so verändert wurden, dass sie jemanden zeigen, der etwas tut oder sagt, was er nicht getan oder gesagt hat.

Die Umsetzung der Datenschutz-Grundverordnung (DSGVO) der EU hat andere Länder dazu veranlasst, Vorschriften zum Schutz personenbezogener Daten zu erlassen. Ebenso gehen Experten davon aus, dass die KI-Verordnung der EU die Entwicklung von Standards in den Bereichen KI-Governance und Ethik weltweit vorantreiben wird.

Die meisten Länder und Regionen haben noch keine umfassenden Gesetze oder Vorschriften für den Einsatz von KI erlassen. Es stehen jedoch mehrere umfangreiche Rahmenwerke zur Verfügung. Obwohl sie nicht immer durchsetzbar sind, dienen sie als Leitfaden für die künftige Regulierung und die verantwortungsvolle Entwicklung und Nutzung von KI. Zu den bemerkenswerten Beispielen gehören:

• Die Verordnung des Weißen Hauses über die sichere und vertrauenswürdige Entwicklung und Nutzung von künstlicher Intelligenz: Die am 30. Oktober 2023 veröffentlichte Verordnung (und widerrufen am 20. Januar 2025) befasste sich in mehreren Abschnitten mit Transparenz. In Abschnitt 8 ging es speziell um den Schutz von Verbrauchern, Patienten, Passagieren und Studenten. Sie ermutigte die unabhängigen Regulierungsbehörden, ihre Befugnisse zu nutzen, um die amerikanischen Verbraucher vor KI-Risiken zu schützen, einschließlich der Hervorhebung oder Klärung der Anforderungen und Erwartungen in Bezug auf die Transparenz von KI-Modellen und die Fähigkeit der beaufsichtigten Unternehmen, ihre Verwendung von KI-Modellen zu erklären.¹
  
  
• Die Blaupause für ein Bill of Rights für KI: Die Blaupause ist eine Reihe von fünf Grundsätzen und damit verbundenen Praktiken, die bei der Entwicklung, Nutzung und Einführung von KI-Systemen helfen sollen. Der vierte Grundsatz 'Hinweise und Erklärung' (Notice and Explanation), befasst sich direkt mit der Transparenz: Designer, Entwickler und Betreiber automatisierter Systeme müssen eine allgemein zugängliche, leicht verständliche Dokumentation bereitstellen, die klare Beschreibungen der Funktionsweise des Gesamtsystems und der Rolle, die die Automatisierung spielt, einen Hinweis auf die Verwendung solcher Systeme, die für das System verantwortliche Person oder das für das System verantwortliche Unternehmen sowie klare, zeitnahe und zugängliche Erläuterungen der Ergebnisse enthält.²
  
  
• Der umfassende Politikrahmen für den Hiroshima-KI-Prozess: Der Hiroshima-KI-Prozess, der 2023 im Anschluss an den G7-Gipfel in Hiroshima ins Leben gerufen wurde, ist eine Reihe von Leitprinzipien für die weltweite Entwicklung fortschrittlicher KI-Systeme, die eine sichere und vertrauenswürdige KI fördern. Der Politikrahmen fordert Unternehmen auf, sich an 11 Grundsätze zu halten, z. B. die „Veröffentlichung von Transparenzberichten“ und das „verantwortungsvolle Teilen von Informationen“.³

KI-Transparenz ist eng mit den Konzepten der Erklärbarkeit und Interpretierbarkeit von KI verbunden. Mithilfe dieser Ansätze soll das seit langem auftretende „Blackbox“-Problem angegangen werden, d. h. das praktische und ethische Problem, dass KI-Systeme so ausgeklügelt sind, dass sie für den Menschen nicht mehr zu interpretieren sind. Ihre Definitionen und Anwendungsfälle unterscheiden sich jedoch:

• KI-Erklärbarkeit: Wie ist das Modell zu diesem Ergebnis gekommen?
  
  
• KI-Interpretierbarkeit: Wie trifft das Modell Entscheidungen?
  
  
• KI-Transparenz: Wie wurde das Modell erstellt, mit welchen Daten wurde es trainiert und wie trifft es Entscheidungen?

KI-Erklärbarkeit oder Explainable AI, XAI oder erklärbare künstliche Intelligenz ist eine Reihe von Prozessen und Methoden, anhand derer menschliche Nutzer die von Algorithmen des maschinellen Lernens erzeugten Ergebnisse und Ausgaben verstehen und ihnen vertrauen können. Die Erklärbarkeit von Modellen untersucht, wie ein KI-System zu einem bestimmten Ergebnis kommt, und hilft dabei, die Modelltransparenz zu charakterisieren.

KI-Interpretierbarkeit bezieht sich darauf, den gesamten KI-Prozess für einen Menschen verständlich zu machen. Die KI-Interpretierbarkeit liefert aussagekräftige Informationen über die zugrunde liegende Logik, Bedeutung und erwartete Konsequenzen des KI-Systems. Sie ist die Erfolgsquote, die Menschen für das Ergebnis eines KI-Outputs vorhersagen können. Die Erklärbarkeit geht einen Schritt weiter und untersucht, wie das KI-Modell zu dem Ergebnis gekommen ist.

KI-Transparenz geht über die bloße Erklärung von KI-Entscheidungsprozessen hinaus. Es umfasst Faktoren, die mit der Entwicklung von KI-Systemen und deren Bereitstellung zusammenhängen, wie zum Beispiel die KI-Trainingsdaten und wer Zugriff darauf hat.

Die Bereitstellung von KI-Transparenz unterscheidet sich zwar je nach Anwendungsfall, Unternehmen und Branche, aber es gibt einige Strategien, die Unternehmen beim Aufbau von KI-Systemen im Auge behalten sollten. Dazu gehören klare Grundsätze für Vertrauen und Transparenz, die Umsetzung dieser Grundsätze in die Praxis und ihre Einbindung in den gesamten KI-Lebenszyklus.

Eine spezifischere Strategie für KI-Transparenz ist die gründliche Offenlegung in jeder Phase des KI-Lebenszyklus. Um eine Offenlegung zu gewährleisten, müssen Unternehmen festlegen, welche Informationen sie teilen und wie sie diese teilen möchten.

Der Anwendungsfall, die Branche, die Zielgruppe und andere Faktoren helfen bei der Entscheidung, welche Informationen offengelegt werden müssen. So werden Anwendungen von KI, bei denen mehr auf dem Spiel steht (z. B. Hypothekenbewertungen), wahrscheinlich eine umfassendere Offenlegung erfordern als Anwendungen, bei denen weniger auf dem Spiel steht (z. B. Audioklassifizierung für virtuelle Assistenten).

Die Offenlegung kann alle oder einige der folgenden Informationen über das Modell umfassen:

• Modellname
• Zweck
• Risikoniveau
• Modellrichtlinie
• Modellgenerierung
• Vorgesehener Bereich
• Trainingsdaten
• Training und Prüfung der Genauigkeit
• Bias
• Metriken zu Zuverlässigkeit gegen Angriffe
• Metriken zu Fairness
• Metriken zu Erklärbarkeit
• Kontaktinformationen

Alle Bereiche des KI-Lebenszyklus können Informationen beisteuern, sodass die Rechenschaftspflicht auf das gesamte Ökosystem und nicht auf eine einzelne Person übertragen wird. Es gibt Softwareplattformen und -tools, die bei der Automatisierung der Informationserfassung und anderer KI-Governance-Aktivitäten helfen können.

Unternehmen können Informationen zur KI-Transparenz in verschiedenen Formaten bereitstellen, beispielsweise gedruckt oder als Videos. Das Format hängt sowohl von der Zielgruppe als auch vom Anwendungsfall ab. Sind die Informationen für den Verbraucher bestimmt und müssen sie daher leicht verständlich sein? Oder sind sie für einen Data Scientist oder eine Aufsichtsbehörde gedacht und erfordern daher mehr technische Details?

Formate können Folgendes umfassen:

• Ein fortzuschreibendes Dokument, das einer Konformitätserklärung des Lieferanten (SDoC) nachempfunden ist – dieses Dokument wird in vielen Branchen verwendet, um die Konformität eines Produkts mit bestimmten Normen oder technischen Vorschriften nachzuweisen
  
  
• Offizielle Richtlinienseiten auf der Unternehmenswebsite, die detailliert beschreiben, wie das Unternehmen transparente KI-Initiativen in die Tat umsetzt
  
  
• Bildungsressourcen wie Dokumente und Videos, die den Nutzern helfen zu verstehen, wie KI in Produkten und Dienstleistungen eingesetzt wird und wie sie sich auf die Kundenerfahrung auswirkt
  
  
• Öffentlicher Diskurs über den ethischen KI-Standpunkt des Unternehmens durch offizielle PR-Aktivitäten, Veranstaltungen, Soziale Medien und andere Kommunikationsmittel.
  
  
• Forschungsarbeiten, Datensätze und andere datengesteuerte Kommunikation, um Erkenntnisse zur Nutzung, Entwicklung und zu Vorteilen von KI innerhalb der Branche oder der Anwendungsfälle des Unternehmens zu bieten.

Transparente KI-Praktiken haben viele Vorteile, werfen aber auch Fragen der Sicherheit und des Datenschutzes auf. Je mehr Informationen beispielsweise über das Innenleben eines KI-Projekts erhalten werden, desto leichter kann es für Hacker sein, Schwachstellen zu finden und auszunutzen. OpenAI hat sich in seinem Bericht GPT-4 Technical Report genau dieser Herausforderung gestellt und festgestellt, dass Folgendes der Fall ist:

„In Anbetracht des kompetitiven Umfelds und der Sicherheitsaspekte von groß angelegten Modellen wie GPT-4 enthält dieser Bericht keine weiteren Details zur Architektur (einschließlich Modellgröße), Hardware, Trainingsberechnung, Datensatzkonstruktion, Trainingsmethode oder Ähnliches.“⁴

Das Zitat verdeutlicht auch eine weitere Herausforderung für die KI-Transparenz: den Kompromiss zwischen Transparenz und Schutz des geistigen Eigentums. Weitere Hürden könnten die eindeutige Erklärung komplizierter und komplexer Programme und Algorithmen für maschinelles Lernen (wie Neural Networks) für Laien und der Mangel an globalen Transparenzstandards für KI sein.