Das Geflecht der regulatorischen Anforderungen rund um den Einsatz von KI entwickelt sich ständig weiter. Transparente Modellprozesse sind entscheidend für die Einhaltung dieser Vorschriften und für die Bearbeitung von Anfragen von Modellvalidatoren, Wirtschaftsprüfern und Regulierungsbehörden. Die EU-Verordnung über künstliche Intelligenz (KI-Verordnung) gilt als der weltweit erste umfassende Rechtsrahmen für KI.

Die KI-Verordnung der EU

Das EU-Gesetz zur künstlichen Intelligenz verfolgt einen auf Risiken basieren Ansatz und wendet unterschiedliche Regeln auf KI-Systeme an, je nachdem, welches Risiko sie darstellen. Es verbietet einige KI-Anwendungen und setzt strenge Anforderungen bei Richtlinien, beim Risikomanagement und bei der Transparenz für andere voraus. Für bestimmte Arten von KI bestehen zusätzliche Transparenzpflichten. Einige Beispiele:

• KI-Systeme, die direkt mit Personen interagieren sollen, müssen so gestaltet sein, dass sie die Nutzer darüber informieren, dass sie mit einem KI-System interagieren, es sei denn, dies ist für den Einzelnen aus dem Kontext offensichtlich. Ein Chatbot muss zum Beispiel so gestaltet sein, dass er die Nutzer darauf hinweist, dass er ein Chatbot ist.
  
  
• KI-Systeme, die Text, Bilder oder bestimmte andere Inhalte erzeugen, müssen maschinenlesbare Formate verwenden, um die Ausgaben als von KI erzeugt oder bearbeitet zu kennzeichnen. Das gilt zum Beispiel für KI, die Deepfakes erzeugt, also Bilder oder Videos. Das sind Inhalte, die so verändert wurden, dass sie zeigen, dass jemand etwas tut oder sagt, was er nicht getan oder gesagt hat.

Die Umsetzung der Datenschutz-Grundverordnung (DSGVO) der EU hat andere Länder dazu veranlasst, Vorschriften zum Schutz personenbezogener Daten zu erlassen. Ebenso gehen Experten davon aus, dass die KI-Verordnung der EU die Entwicklung von Standards in den Bereichen KI-Governance und Ethik weltweit vorantreiben wird.

Leitrahmenwerke für KI-Transparenz

Die meisten Länder und Regionen haben noch keine umfassenden Gesetze oder Vorschriften für den Einsatz von KI erlassen. Es stehen jedoch mehrere umfangreiche Rahmenwerke zur Verfügung. Obwohl sie nicht immer durchsetzbar sind, dienen sie als Leitfaden für die künftige Regulierung und die verantwortungsvolle Entwicklung und Nutzung von KI. Zu den bemerkenswerten Beispielen gehören:

• Die Verordnung des Weißen Hauses über die sichere und vertrauenswürdige Entwicklung und Nutzung von künstlicher Intelligenz: Die am 30. Oktober 2023 veröffentlichte Verordnung befasst sich in mehreren Abschnitten mit Transparenz. In Abschnitt 8 geht es speziell um den Schutz von Verbrauchern, Patienten, Passagieren und Studenten. Sie ermutigt die unabhängigen Regulierungsbehörden, ihre Befugnisse zu nutzen, um die amerikanischen Verbraucher vor KI-Risiken zu schützen, einschließlich der Hervorhebung oder Klärung der Anforderungen und Erwartungen in Bezug auf die Transparenz von KI-Modellen und die Fähigkeit der beaufsichtigten Unternehmen, ihre Verwendung von KI-Modellen zu erklären.¹
  
  
• Die Blaupause für ein Bill of Rights für KI: Die Blaupause ist eine Reihe von fünf Grundsätzen und damit verbundenen Praktiken, die bei der Entwicklung, Nutzung und Einführung von KI-Systemen helfen sollen. Der vierte Grundsatz 'Hinweise und Erklärung' (Notice and Explanation), befasst sich direkt mit der Transparenz: Designer, Entwickler und Betreiber automatisierter Systeme müssen eine allgemein zugängliche, leicht verständliche Dokumentation bereitstellen, die klare Beschreibungen der Funktionsweise des Gesamtsystems und der Rolle, die die Automatisierung spielt, einen Hinweis auf die Verwendung solcher Systeme, die für das System verantwortliche Person oder das für das System verantwortliche Unternehmen sowie klare, zeitnahe und zugängliche Erläuterungen der Ergebnisse enthält.²
  
  
• Der umfassende Politikrahmen für den Hiroshima-KI-Prozess: Der Hiroshima-KI-Prozess, der 2023 im Anschluss an den G7-Gipfel in Hiroshima ins Leben gerufen wurde, ist eine Reihe von Leitprinzipien für die weltweite Entwicklung fortschrittlicher KI-Systeme, die eine sichere und vertrauenswürdige KI fördern. Der Politikrahmen fordert Unternehmen auf, sich an 11 Grundsätze zu halten, z. B. die „Veröffentlichung von Transparenzberichten“ und das „verantwortungsvolle Teilen von Informationen“.³

KI-Transparenz ist eng mit den Konzepten der Erklärbarkeit und Interpretierbarkeit von KI verbunden. Mithilfe dieser Ansätze soll das seit langem auftretende „Blackbox“-Problem angegangen werden, d. h. das praktische und ethische Problem, dass KI-Systeme so ausgeklügelt sind, dass sie für den Menschen nicht mehr zu interpretieren sind. Ihre Definitionen und Anwendungsfälle unterscheiden sich jedoch:

• KI-Erklärbarkeit: Wie ist das Modell zu diesem Ergebnis gekommen?
  
  
• KI-Interpretierbarkeit: Wie trifft das Modell Entscheidungen?
  
  
• KI-Transparenz: Wie wurde das Modell erstellt, mit welchen Daten wurde es trainiert und wie trifft es Entscheidungen?

KI-Erklärbarkeit: Wie ist das Modell zu diesem Ergebnis gekommen?

KI-Erklärbarkeit oder Explainable AI, XAI oder erklärbare künstliche Intelligenz ist eine Reihe von Prozessen und Methoden, anhand derer menschliche Nutzer die von Algorithmen des maschinellen Lernens erzeugten Ergebnisse und Ausgaben verstehen und ihnen vertrauen können. Die Erklärbarkeit von Modellen untersucht, wie ein KI-System zu einem bestimmten Ergebnis kommt, und hilft dabei, die Modelltransparenz zu charakterisieren.

Interpretierbarkeit der KI: Wie trifft das Modell Entscheidungen?

KI-Interpretierbarkeit bezieht sich darauf, den gesamten KI-Prozess für einen Menschen verständlich zu machen. Die KI-Interpretierbarkeit liefert aussagekräftige Informationen über die zugrunde liegende Logik, Bedeutung und erwartete Konsequenzen des KI-Systems. Sie ist die Erfolgsquote, die Menschen für das Ergebnis eines KI-Outputs vorhersagen können. Die Erklärbarkeit geht einen Schritt weiter und untersucht, wie das KI-Modell zu dem Ergebnis gekommen ist.

KI-Transparenz: Wie wurde das Modell erstellt, mit welchen Daten wurde es trainiert und wie trifft es Entscheidungen?

KI-Transparenz geht über die bloße Erklärung von KI-Entscheidungsprozessen hinaus. Es umfasst Faktoren, die mit der Entwicklung von KI-Systemen und deren Bereitstellung zusammenhängen, wie zum Beispiel die KI-Trainingsdaten und wer Zugriff darauf hat.

Die Bereitstellung von KI-Transparenz unterscheidet sich zwar je nach Anwendungsfall, Unternehmen und Branche, aber es gibt einige Strategien, die Unternehmen beim Aufbau von KI-Systemen im Auge behalten sollten. Dazu gehören klare Grundsätze für Vertrauen und Transparenz, die Umsetzung dieser Grundsätze in die Praxis und ihre Einbindung in den gesamten KI-Lebenszyklus.

Eine spezifischere Strategie für KI-Transparenz ist die gründliche Offenlegung in jeder Phase des KI-Lebenszyklus. Um eine Offenlegung zu gewährleisten, müssen Unternehmen festlegen, welche Informationen sie teilen und wie sie diese teilen möchten.

Informationen, die in der Dokumentation zur KI-Transparenz benötigt werden

Der Anwendungsfall, die Branche, die Zielgruppe und andere Faktoren helfen bei der Entscheidung, welche Informationen offengelegt werden müssen. So werden Anwendungen von KI, bei denen mehr auf dem Spiel steht (z. B. Hypothekenbewertungen), wahrscheinlich eine umfassendere Offenlegung erfordern als Anwendungen, bei denen weniger auf dem Spiel steht (z. B. Audioklassifizierung für virtuelle Assistenten). 

Die Offenlegung kann alle oder einige der folgenden Informationen über das Modell umfassen:

• Modellname
• Zweck
• Risikoniveau
• Modellrichtlinie
• Modellgenerierung
• Vorgesehener Bereich
• Trainingsdaten
• Training und Prüfung der Genauigkeit
• Bias
• Metriken zu Zuverlässigkeit gegen Angriffe
• Metriken zu Fairness
• Metriken zu Erklärbarkeit
• Kontaktinformationen

Alle Bereiche des KI-Lebenszyklus können Informationen beisteuern, sodass die Rechenschaftspflicht auf das gesamte Ökosystem und nicht auf eine einzelne Person übertragen wird. Es gibt Softwareplattformen und -tools, die bei der Automatisierung der Informationserfassung und anderer KI-Governance-Aktivitäten helfen können.

So teilen Sie Informationen zur KI-Transparenz

Unternehmen können Informationen zur KI-Transparenz in verschiedenen Formaten bereitstellen, beispielsweise gedruckt oder als Videos. Das Format hängt sowohl von der Zielgruppe als auch vom Anwendungsfall ab. Sind die Informationen für den Verbraucher bestimmt und müssen sie daher leicht verständlich sein? Oder sind sie für einen Data Scientist oder eine Aufsichtsbehörde gedacht und erfordern daher mehr technische Details?

Formate können Folgendes umfassen: 

• Ein fortzuschreibendes Dokument, das einer Konformitätserklärung des Lieferanten (SDoC) nachempfunden ist – dieses Dokument wird in vielen Branchen verwendet, um die Konformität eines Produkts mit bestimmten Normen oder technischen Vorschriften nachzuweisen
  
  
• Offizielle Richtlinienseiten auf der Unternehmenswebsite, die detailliert beschreiben, wie das Unternehmen transparente KI-Initiativen in die Tat umsetzt
  
  
• Bildungsressourcen wie Dokumente und Videos, die den Nutzern helfen zu verstehen, wie KI in Produkten und Dienstleistungen eingesetzt wird und wie sie sich auf die Kundenerfahrung auswirkt
  
  
• Öffentlicher Diskurs über den ethischen KI-Standpunkt des Unternehmens durch offizielle PR-Aktivitäten, Veranstaltungen, Soziale Medien und andere Kommunikationsmittel.  
  
  
• Forschungsarbeiten, Datensätze und andere datengesteuerte Kommunikation, um Erkenntnisse zur Nutzung, Entwicklung und zu Vorteilen von KI innerhalb der Branche oder der Anwendungsfälle des Unternehmens zu bieten.