KI-Governance (Künstliche Intelligenz) bezieht sich auf die Prozesse, Standards und Leitplanken, die dazu beitragen, dass KI-Systeme sicher und ethisch sind. Die Rahmenbedingungen der KI-Governance bieten eine Leitplanke für KI-Forschung, -Entwicklung und -Anwendung, um Sicherheit, Fairness und Achtung der Menschenrechte zu gewährleisten. Solche Frameworks helfen zusätzlich Unternehmen die Einhaltung gesetzlicher Vorschriften zu gewährleisten und sensible Daten hinsichtlich KI-gestützter Technologien zu schützen.
KI-Governance umfasst eine breite Palette von Praktiken, Protokollen, Schutzmaßnahmen, Systemen und Werkzeugen. KI-Fachleute an vorderster Front der Governance entwickeln Methoden und Richtlinien zur Entwicklung und Schulung neuer KI-Modelle, Betriebsleitlinien für die Anwendung dieser Modelle sowie Software und andere Technologien, um mehrschichtige Sicherheitsmaßnahmen mit angemessener menschlicher regulatorischer Aufsicht zu schaffen.
Ausgezeichnet als eines der besten IT-Management-Produkte bei den G2 Best Software Awards 2026
KI-Modelle sowie Algorithmen für maschinelles Lernen (ML) und Deep Learning (DL) werden letztlich mit menschlichen Daten trainiert. Infolgedessen sind KI-Systeme anfällig für menschliche Verzerrungen. Ohne Kontrolle können durch Verzerrung beeinflusste KI-Systeme Einzelpersonen und ganzen Bevölkerungsgruppen ernsthaften Schaden zufügen. Die Richtlinien zur KI-Governance zielen darauf ab, diese Arten von potenziell diskriminierenden oder anderweitig gefährlichen Fehlern zu korrigieren.
Effektive KI-Governance-Mechanismen adressieren Risiken wie Verzerrung, Datenschutzverletzungen und Missbrauch, während sie gleichzeitig Innovationen fördern und Vertrauen aufbauen. Ein ethischer, auf KI ausgerichteter Governance-Ansatz erfordert menschliche Aufsicht und den Input eines breiten Spektrums an Stakeholdern; u. a. von Entwicklern, Nutzern, politischen Entscheidungsträgern und Ethikern. Die Umsetzung einer modernen und robusten KI-Governance hilft KI-Systemen, moralische und ethische soziale Werte einzuhalten und gleichzeitig Abhilfemaßnahmen zu ergreifen, um verschiedene Sicherheitslücken zu verringern und das Risikoniveau in vielen KI-Anwendungen zu reduzieren.
Während sich KI-Systeme stetig weiterentwickeln, entwickeln sich auch die Prozesse der KI-Governance weiter, um globale Standards festzulegen und zu erfüllen. Obwohl die Erfüllung regulatorischer Anforderungen ein wichtiger wirtschaftlicher Anreiz für Investitionen in Governance-Programme ist, gehen die Vorteile dieser Lösungsansätze über die reine Einhaltung von Vorschriften hinaus – sie reduzieren proaktiv das Haftungsrisiko durch die Stärkung von Datenschutz, Datensicherheit und Datenzugriff.
KI-Governance bietet einen strukturierten Ansatz, um die potenziellen Risiken im Zusammenhang mit KI-Systemen zu mindern. Durch Protokolle und Praktiken wie Data Governance und kontinuierliche Überwachung können KI-Governance-Richtlinien KI-Tools effektiv evaluieren und steuern. Bei korrekter Implementierung verhindert KI-Governance fehlerhafte oder schädliche Entscheidungen in der gesamten KI-Pipeline, angefangen mit den Datensätzen, mit denen die Modelle trainiert werden, bis hin zur Ausführung von Lösungen, die aus der KI resultieren.
Einfach ausgedrückt dient KI-Governance dazu, die notwendigen Überwachungsmethoden und -methoden festzulegen, die erforderlich sind, um das Verhalten von KI mit ethischen Standards und gesellschaftlichen Erwartungen in Einklang zu bringen und so Nutzer, Anbieter und alle zufällig beteiligten Dritten vor unbeabsichtigten negativen, nachteiligen oder ungerechten Auswirkungen zu schützen.
Erhalten Sie kuratierte Einblicke in die wichtigsten – und faszinierendsten – KI-Neuheiten. Abonnieren Sie unseren wöchentlichen Think-Newsletter. Weitere Informationen in der IBM Datenschutzerklärung.
KI-Governance ist unerlässlich, um einen Zustand der Compliance, des Vertrauens und der Effizienz bei der Entwicklung und Anwendung von KI-Technologien zu erreichen. Mit der zunehmenden Integration von KI in die Abläufe von Unternehmen und Behörden wird ihr Potenzial für negative Auswirkungen immer deutlicher. Eine Studie des IBM Institute for Business Value ergab, dass 80 % der Geschäftsleiter KI-Erklärbarkeit, Ethik, Verzerrung oder Vertrauen als großes Hindernis für die Einführung generativer KI ansehen. Die KI-Governance versucht, diesen Herausforderungen zu begegnen, indem sie Vertrauen schafft und potenzielle negative Auswirkungen des Einsatzes von KI-Technologie verhindert.
Bestimmte aufsehenerregende Vorfälle haben Schlagzeilen gemacht und die Gefahr unkontrollierter KI-Systeme verdeutlicht. Bei einem solchen Vorfall begann Tay Chatbot von Microsoft, toxisches Verhalten nachzuplappern, das er aus Beiträgen in sozialen Netzwerken gelernt hatte, weil er mit unregulierten Datensätzen trainiert wurde. Dieser Vorfall war zwar erschütternd, aber Fehler in der KI-Software COMPAS brachten noch mehr Schaden. Bei der strafrechtlichen Verurteilung führte die inhärente Verzerrung im KI-Modell zu einer ungerechtfertigten strafrechtlichen Verfolgung, wodurch noch einmal unterstrichen wurde, wie wichtig KI-Governance ist, wenn es darum geht, öffentliches Vertrauen in KI-Systeme aufzubauen und aufrechtzuerhalten.
Diese Beispiele zeigen, dass KI ohne angemessene Aufsicht erheblichen sozialen und ethischen Schaden anrichten kann, und unterstreichen die Bedeutung der Governance für den Umgang mit den mit fortschrittlicher KI verbundenen Risiken. Durch die Bereitstellung von Richtlinien und Frameworks zielt die KI-Governance darauf ab, technologische Innovation mit Sicherheit in Einklang zu bringen und sicherzustellen, dass KI-Systeme nicht die Würde oder Rechte des Menschen verletzen.
Das Verständnis davon, wie KI-Systeme Entscheidungen treffen, um sie für ihre Schlussfolgerungen zur Rechenschaft zu ziehen, ist ein wesentlicher Bestandteil der KI-Governance, um sicherstellen zu können, dass diese Art von Programmen faire und ethische Entscheidungen treffen. Von der Entscheidung, welche Anzeigen welchen Nutzern angezeigt werden sollen, bis hin zur Feststellung der Kreditwürdigkeit – KI-Systeme werden ständig eingesetzt, um Entscheidungen in einem Spektrum von trivial bis kritisch zu treffen. Wenn Sie sich auf diese Systeme verlassen, sind transparente Entscheidungsfindung und Erklärbarkeit außerordentlich wichtig, um sicherzustellen, dass KI-Systeme verantwortungsbewusst eingesetzt werden, und um Vertrauen aufzubauen.
Außerdem geht es bei der KI-Governance nicht nur darum, die einmalige Einhaltung von Vorschriften zu gewährleisten, sondern auch darum, ethische Standards über einen längeren Zeitraum aufrechtzuerhalten. KI-Modelle können abweichen, was zu Änderungen in der Ausgabequalität und Zuverlässigkeit führt. Die aktuellen Trends in der KI-Governance gehen über die bloße Einhaltung gesetzlicher Bestimmungen hinaus. Wir beobachten zunehmend, dass sozial verantwortlichen Bemühungen bei der Entwicklung und Anwendung von KI immer mehr Bedeutung beigemessen wird, um finanzielle, rechtliche und rufschädigende Risiken zu vermeiden und gleichzeitig Wachstum und Fortschritt im Einklang mit ethischen Vorgaben dieser spannenden neuen Technologie zu fördern.
Beispiele für KI-Governance umfassen eine Reihe von Richtlinien, Frameworks und Praktiken, die Organisationen, Unternehmen, Regierungsbehörden und Regierungen mit dem gemeinsamen Ziel der Förderung der verantwortungsvollen Nutzung von KI-Technologien anwenden. Diese Beispiele zeigen, wie KI-Governance in verschiedenen Kontexten stattfindet:
Die Datenschutz-Grundverordnung (DSGVO): Die DSGVO ist ein Beispiel für KI-Governance, insbesondere im Zusammenhang mit dem Schutz personenbezogener Daten und der Privatsphäre. Obwohl sich die DSGVO nicht ausschließlich auf KI konzentriert, sind viele ihrer Bestimmungen für KI-Systeme von großer Bedeutung, insbesondere für solche, die personenbezogene Daten von Personen innerhalb der Europäischen Union verarbeiten.
Die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD): Die KI-Grundsätze der OECD, die von über 40 Ländern ratifiziert wurden, betonen den verantwortungsvollen Umgang mit vertrauenswürdiger KI, einschließlich der Richtlinien zur Förderung von Transparenz, Fairness und Verantwortlichkeit in KI-Systemen.
KI-Ethikausschüsse: Viele Unternehmen haben dedizierte KI-Ethikausschüsse oder -gremien eingerichtet, um KI-Initiativen zu überwachen und sicherzustellen, dass sie mit ethischen Standards und gesellschaftlichen Werten in Einklang stehen. Zu diesen Gremien gehören häufig funktionsübergreifende Teams mit juristischem, technischem und politischem Hintergrund. Seit 2019 überprüft der KI-Ethikausschuss von IBM neue KI-Produkte und -Services, um sicherzustellen, dass sie den Grundsätzen von IBM für verantwortungsvolle KI entsprechen.
Laut einem Bericht des IBM Institute for Business Value verfügen 80 % der Unternehmen über einen separaten Bereich innerhalb ihrer Risikomanagementfunktion, der sich mit den Risiken befasst, die mit der Nutzung von KI oder generativer KI verbunden sind.
Auf Unternehmensebene sind der CEO und die Geschäftsleitung letztlich für die Umsetzung der KI-Governance während des gesamten KI-Lebenszyklus verantwortlich. In der Regel delegieren sie bestimmte praktische Richtlinienaufgaben an relevante Stakeholder wie den CTO und ihre nachgelagerten Bereiche. Da die KI-Governance weitreichende regulatorische Auswirkungen hat, sind Rechtsabteilungen und der Chefjustiziar kritische Stakeholder bei der Bewertung und Minderung von Risiken und sollen häufig sicherstellen dass KI-Anwendungen den relevanten Gesetzen und Compliance-Anforderungen entsprechen.
Je nach Größe eines Unternehmens kann ein spezielles Audit-Team dafür verantwortlich sein, die Datenintegrität der verwendeten KI-Systeme zu überprüfen und zu bestätigen, dass diese wie beabsichtigt funktionieren, ohne Fehler oder Verzerrungen einzuführen. Obwohl kleinere Unternehmen möglicherweise keine eigenen Audit-Teams haben, gewinnen diese Teams und Positionen zunehmend an Bedeutung, da die KI-Technologie immer mehr Ressourcen in Anspruch nimmt.
Soweit sich die KI-Governance auf finanzielle Belange auswirken kann, sind in der Regel der Finanzvorstand und die ihm unterstellten Mitarbeiter für die Steuerung der mit KI-Initiativen verbundenen Kosten verantwortlich, einschließlich aller Governance-Maßnahmen, die zur Minderung finanzieller Risiken sowohl für das Unternehmen selbst als auch möglicherweise für Kunden ergriffen werden.
Die Verantwortung für die KI-Governance liegt letztendlich jedoch nicht bei einer einzelnen Person oder Abteilung – es handelt sich um eine kollektive Verantwortung, bei der jede Führungskraft der Rechenschaftspflicht Vorrang einräumen und sicherstellen muss, dass KI-Systeme im gesamten Unternehmen verantwortungsvoll und ethisch korrekt eingesetzt werden.
Durch die Priorisierung einer verantwortungsvollen KI-Governance, Investitionen in strenge Mitarbeiterschulungen und die Förderung einer transparenten Kultur der offenen Kommunikation und Zusammenarbeit können Manager und Führungskräfte allen Mitarbeitern die klare Botschaft senden, dass jeder KI verantwortungsvoll und ethisch korrekt nutzen muss.
Während der CEO und die Geschäftsleitung für die Stimmung und Kultur eines Unternehmens verantwortlich sind, erfordern die ernsthaften Risiken im Zusammenhang mit KI bei den Anforderungen der kontinuierlichen Überwachung der Governance in allen KI-Pipelines, dass alle Stakeholder ihren Beitrag leisten, um den angemessenen Einsatz dieser leistungsstarken Technologie sicherzustellen.
Die transformative Kraft der KI-Technologie in zahlreichen verteilten Branchen und Anwendungsfällen wird erst allmählich deutlich. Die Einführung moderner generativer KI-Modelle wie Chat GPT, Claude und Midjourney, die in der Lage sind, neue Inhalte – darunter Text, Bilder, Audio, Video und Code – zu generieren, fesselte die Öffentlichkeit und beflügelte ihre Fantasie mit atemberaubenden Möglichkeiten.
Während viele Künstler Inspiration in diesen kreativen Werkzeugen finden, sehen viele sie jedoch als Bedrohung. Da diese Modelle auf bestehenden kreativen Werken basieren, wurden frühe Versionen davon des Plagiats bezichtigt, da ihre Ergebnisse offenbar urheberrechtlich geschütztes geistiges Eigentum ohne Quellenangabe neu interpretieren.
Als Reaktion auf diese Bedenken wurden in den aktuellen Versionen dieser Modelle strengere Richtlinien für die Überprüfung von Trainingsdaten eingeführt, um sicherzustellen, dass alle zum Trainieren der Modelle verwendeten Werke ordnungsgemäß lizenziert sind. Die KI-Governance-Bemühungen werden fortgesetzt, um sicherzustellen, dass diese wertvollen Werkzeuge zur Verbesserung des kreativen Prozesses weiterhin gesetzeskonform und ethisch einwandfrei bleiben.
Über die Mediengestaltung hinaus werden andere spannende Arten von KI, wie z. B. agentische KI-Modelle, verwendet, um mühsame Aufgaben zu automatisieren und so Produktivität und Forschung in Bereichen voranzutreiben, die so weit voneinander entfernt sind wie Recht und Pharmakologie. Von Codierung und Entwicklung bis hin zu Astronomie und Physik verändert KI die Arbeitsweise von ganzen Branchen. Mit ihrer breiten Anwendbarkeit geht jedoch ein noch größerer Bedarf an einer umfassenden KI-Governance einher.
Die Prinzipien der verantwortungsvollen KI-Governance sind für Unternehmen unerlässlich, um sich und ihre Kunden zu schützen. Diese Prinzipien leiten Unternehmen bei der ethischen Entwicklung und Anwendung von KI-Technologien an:
Auch wenn Vorschriften und Marktkräfte viele Governance-Metriken standardisieren, müssen einzelne Unternehmen dennoch festlegen, wie sie die relevanten Messungen für ihr einzigartiges Geschäft am besten definieren. Die Bewertung der Wirksamkeit der KI-Governance kann je nach Unternehmen unterschiedlich sein. Jedes Unternehmen muss entscheiden, welche Schwerpunktbereiche es priorisieren muss. Mit verschiedenen Überlegungen zu Themen wie Datenqualität, Modellsicherheit, Kosten-Nutzen-Analyse, Überwachung von Verzerrungen, individuelle Verantwortlichkeit, kontinuierliche Prüfung und Anpassungsfähigkeit, die alle vom Unternehmensbereich abhängen, kann die KI-Governance niemals eine Lösung sein, die für alle passt.
Für die KI-Governance bestehen keine universell standardisierten „Ebenen“, wie es beispielsweise bei der Cybersicherheit definierte Ebenen für die Reaktion auf Bedrohungen gibt. Stattdessen verfügt die KI-Governance über strukturierte Ansätze und Frameworks, die von verschiedenen Stellen entwickelt wurden und die Unternehmen übernehmen oder an ihre spezifischen Bedürfnisse anpassen können.
Unternehmen können verschiedene Frameworks und Richtlinien nutzen, um ihre Governance-Praktiken zu entwickeln. Einige der am häufigsten verwendeten Frameworks sind das NIST KI-Risikomanagement-Framework, die OECD-Grundsätze für künstliche Intelligenz und der Ethikleitfaden der Europäischen Kommission für vertrauenswürdige KI. Diese Frameworks bieten Leitlinien für eine Reihe von Faktoren, darunter Transparenz, Rechenschaftspflicht, Fairness, Datenschutz und Sicherheit.
Die Ebenen der KI-Governance können je nach Größe des Unternehmens, Komplexität der verwendeten KI-Systeme und regulatorischem Umfeld, in dem das Unternehmen tätig ist, variieren.
Eine allgemeine jedoch nicht vollständige Übersicht der Ansätze zur KI-Governance umfasst Folgendes:
Dies ist der am wenigsten intensive Governance-Ansatz, der auf den Werten und Grundsätzen des Unternehmens basiert. Es mag einige informelle Prozesse geben, wie z. B. ethische Prüfgremien oder interne Ausschüsse, aber es gibt keine formale Struktur oder ein Framework für die KI-Governance.
Als Weiterentwicklung der informellen Governance beschreibt die Ad-hoc-Governance die Ausarbeitung spezifischer Richtlinien und Verfahren für die Entwicklung und Nutzung von KI ausschließlich nach Bedarf. Diese Art von Governance wird häufig als Reaktion auf bestimmte Herausforderungen oder Risiken entwickelt und ist möglicherweise nicht umfassend oder systematisch.
Die höchste Ebene der Governance, die formale Governance, umfasst die Entwicklung eines umfassenden KI-Governance-Frameworks. Dieses Framework spiegelt die Werte und Prinzipien des Unternehmens wider und steht im Einklang mit den relevanten Gesetzen und Vorschriften. Formale Governance-Frameworks umfassen in der Regel Risikobewertung, ethische Überprüfung und Aufsichtsprozesse.
Zur Steuerung der KI gehört die Einrichtung robuster Kontrollstrukturen mit Richtlinien, Leitlinien und Frameworks zur Bewältigung verschiedener und spezifischer Herausforderungen. Dazu gehört die Einrichtung von Mechanismen zur kontinuierlichen Überwachung und Bewertung von KI-Systemen, um sicherzustellen, dass sie den geltenden ethischen Normen und gesetzlichen Vorschriften entsprechen.
Das Konzept der KI-Governance wird immer wichtiger, da sich die durch KI angetriebene Automatisierung in Bereichen wie dem Gesundheitswesen, dem Finanzwesen, dem Verkehrswesen und den öffentlichen Diensten durchsetzt. Die Automatisierungsmöglichkeiten der KI können Effizienz, Entscheidungsfindung und Innovation erheblich verbessern, bringen aber auch Herausforderungen in Bezug auf Rechenschaftspflicht, Transparenz sowie ethische Überlegungen mit sich.
Effektive Governance-Strukturen in der KI sind multidisziplinär und umfassen Stakeholder aus verschiedenen Bereichen, darunter Technologie, Recht, Ethik und Wirtschaft. In einer Zeit, in der KI-Systeme immer ausgefeilter und in wichtige Aspekte der Gesellschaft integriert werden, wird die Rolle der KI-Governance bei der Steuerung und Gestaltung der KI-Entwicklung und ihrer gesellschaftlichen Auswirkungen immer wichtiger.
Best Practices für die KI-Governance, die über die bloße Compliance hinausgehen, erfordern einen strategischen Ansatz zur Entwicklung eines robusteren Systems, das KI-Anwendungen überwachen und verwalten kann. In einer Organisation auf Unternehmensebene muss die KI-Governance-Lösung eine umfassende Aufsicht und Kontrolle über KI-Systeme ermöglichen.
Eine allgemeine KI-Governance-Roadmap könnte Folgendes beinhalten:
1. Visuelle Dashboards: Dashboards bieten Echtzeit-Updates zum Zustand und Status von KI-Systemen und bieten einen klaren Überblick für schnelle Bewertungen.
2. Metriken zur Bewertung des Zustands: Die Gesamtbewertung des Zustands von KI-Modellen fasst mehrere Datenpunkte zu einer intuitiven und leicht verständlichen einheitlichen Metrik zusammen, um die Überwachung auf einen Blick zu vereinfachen.
3. Automatisierte Überwachung: Automatische Erkennungssysteme für Verzerrungen, Drift, Leistung und Anomalien helfen sicherzustellen, dass Modelle korrekt und ethisch funktionieren, ohne dass rund um die Uhr menschliche Überwachung erforderlich ist.
4. Leistungswarnungen: Automatisierte Leistungswarnungen, die ausgelöst werden, wenn ein Modell von seinen vordefinierten Leistungsparametern abweicht, ermöglichen eine schnelle Reaktion auf eventuell auftretende Probleme.
5. Benutzerdefinierte Metriken: Benutzerdefinierte Metriken, die mit den wichtigsten Leistungskennzahlen und Schwellenwerten eines Unternehmens übereinstimmen, helfen sicherzustellen, dass die Ergebnisse von KI zu individuellen Geschäftsziele beitragen.
6. Prüfprotokolle: Leicht zugängliche Logs und Prüfprotokolle unterstützen die Rechenschaftspflicht und erleichtern die Überprüfung der Entscheidungen und Verhaltensweisen von KI-Systemen.
7. Open-Source-Kompatibilität: Open-Source-Tools fördern die Transparenz, indem sie den funktionalen Code zur Prüfung offenlegen. Daher spiegeln diese Tools in der Regel auch die aktuellsten Maßnahmen zur Minderung von Sicherheitsrisiken wider. Durch die Wahrung der Kompatibilität mit den neuesten Open-Source-Entwicklungsplattformen für maschinelles Lernen profitieren KI-Governance-Frameworks von der Flexibilität und dem Community-Support von Open-Source-Software.
8. Nahtlose Integration: Die effektivsten KI-Governance-Plattformen sind so gestaltet, dass sie nahtlos in die bestehende Infrastruktur integriert werden können – u. a. Datenbanken und Software-Ökosystemen –, um Silos zu vermeiden und effiziente Workflows zu ermöglichen.
Durch die Einhaltung dieser Praktiken können Unternehmen ein robustes KI-Governance-Framework schaffen, das eine verantwortungsvolle KI-Entwicklung, -Einführung und -Verwaltung unterstützt und sicherstellt, dass KI-Systeme konform sind und mit ethischen Standards und Unternehmenszielen übereinstimmen.
Eine Reihe von Ländern hat KI-Governance-Praktiken und KI-Vorschriften eingeführt, um Verzerrung und Diskriminierung zu verhindern. Es ist wichtig, sich daran zu erinnern, dass die Regulierung immer im Wandel ist und Unternehmen, die komplexe KI-Systeme verwalten, die Entwicklung der regionalen Frameworks genau im Auge behalten müssen.
Die Verordnung zu künstlicher Intelligenz der EU, auch bekannt EU AI Act oder einfach KI-Verordnung, ist ein Gesetz, das die Entwicklung oder Nutzung von künstlicher Intelligenz (KI) in der Europäischen Union (EU) regelt. Das Gesetz verfolgt im Rahmen der Regulierung einen risikobasierten Ansatz und wendet je nach Risiko unterschiedliche Regeln auf KI an. Die KI-Verordnung, die seit August 2024 offiziell in Kraft ist, wird innerhalb von zwei Jahren nach diesem Datum vollständig anwendbar sein, wobei es einige Ausnahmen gibt: So gilt beispielsweise für Vorschriften zu KI-Systemen mit hohem Risiko, die in regulierte Produkte integriert wurden, eine verlängerte Übergangsfrist (bis 2027).
Der EU AI Act, der als weltweit erstes umfassendes Framework für KI gilt, verbietet einige KI-Anwendungsbereiche vollständig und legt für andere strenge Anforderungen an Governance, Risikomanagement und Transparenz fest.
Die Verordnung schafft auch Regeln für allgemeine Modelle der künstlichen Intelligenz (General-Purpose Artificial Intelligence, GPAI), wie z. B. IBM® Granite und das auf Open-Source basierende Foundation Model Llama 3 von Meta. Die Strafen können je nach Art des Verstoßes zwischen 7,5 Millionen Euro oder 1,5 % des weltweiten Jahresumsatzes und 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes liegen.
Im Juli 2025 veröffentlichte die Europäische Kommission drei Instrumente zur Unterstützung der verantwortungsvollen und ethischen Entwicklung und Einführung von GPAI-Modellen:
In der Vergangenheit galt der US-Standard SR-11-7 als regulatorischer Referenzstandard für eine effektive und solide Modell-Governance im Bankwesen.1 Die Verordnung verlangte von den Banken, dass sie unternehmensweite Initiativen für das Modellrisikomanagement ergreifen und die Modelle im Bestand aufführen, die für die Verwendung implementiert wurden, für die Implementierung entwickelt werden oder kürzlich außer Betrieb genommen wurden. Allerdings hat die Federal Reserve am 17. April 2026 ihre überarbeiteten Richtlinien zum Modellrisikomanagement (SR-26-2) herausgegeben, die die SR-11-7 ersetzen. Die überarbeiteten Modellrichtlinien der Federal Reserve, der OCC und der FDIC zum behördenübergreifenden Risikomanagement verlagern den Schwerpunkt auf einen explizit risikobasierten und verhältnismäßigen Ansatz, wobei die regulatorischen Erwartungen je nach Größe, Komplexität und Modellrisikoprofil eines Instituts variieren – im Gegensatz zu den früheren einheitlichen Governance-Anforderungen..
Die Führungskräfte der betroffenen Institutionen müssen außerdem nachweisen, dass ihre eigenen Modelle den angestrebten Geschäftszweck erfüllen und dass sie auf dem neuesten Stand sind und sich nicht verändert haben. Die Modellentwicklung und -validierung muss es jedem, der mit einem Modell nicht vertraut ist, ermöglichen, die Funktionsweise, die Grenzen und die wichtigsten Annahmen des Modells zu verstehen.
Über diese bankspezifischen Gesetze hinaus hat das Weiße Haus im März 2026 ein National Policy Framework for Artificial Intelligence herausgegeben. Das Framework fordert den Kongress auf, sich mit sechs zentralen Grundsatzthemen im Zusammenhang mit der KI-Governance zu befassen, darunter:
Die kanadische Richtlinie zur automatisierten Entscheidungsfindung beschreibt, wie die Regierung von Kanada KI einsetzt, um Entscheidungen in mehreren Abteilungen zu leiten.2 Die Richtlinie verwendet ein Bewertungssystem, um die menschlichen Eingriffe, die gegenseitige Begutachtung, die Überwachung und die Notfallplanung zu bewerten, die für ein für die Bürgerinnen und Bürger entwickeltes KI-Tool erforderlich sind.
Unternehmen, die KI-Lösungen mit einer hohen Punktzahl entwickeln, müssen zwei unabhängige Peer-Reviews durchführen, die öffentliche Bekanntmachungen in einfacher Sprache herausgeben, eine ausfallsichere menschliche Intervention erarbeiten und wiederkehrende Schulungen für das System einrichten. Da die kanadische Richtlinie zur automatisierten Entscheidungsfindung eine Leitlinie für die landeseigene Entwicklung von KI ist, wirkt sich die Verordnung nicht direkt auf Unternehmen aus, wie es SR-11-7 in den USA tut.
Seit der Veröffentlichung ihrer ursprünglichen Richtlinie hat die kanadische Regierung zuletzt eine KI-Strategie für den öffentlichen Dienst des Bundes 2025–2027 veröffentlicht, mit zusätzlichen Überlegungen, die sich sowohl auf den öffentlichen als auch auf den privaten Sektor konzentrieren, um Kanadiern durch die Einführung von verantwortungsvoller KI besser dienen zu können.
Im April 2021 legte die Europäische Kommission ihr KI-Paket vor, das Aussagen zur Förderung eines europäischen Ansatzes für Exzellenz, Vertrauen und einen Vorschlag für einen Rechtsrahmen für KI enthält.3
In den Erklärungen heißt es, dass die meisten KI-Systeme in die Kategorie „minimales Risiko“ fallen, während KI-Systeme, die als „hohes Risiko“ eingestuft werden, strengere Anforderungen erfüllen müssen, und Systeme, die als „inakzeptables Risiko“ eingestuft werden, verboten werden. Unternehmen müssen diese Regeln genau beachten, sonst riskieren sie Bußgelder.
Im Jahr 2023 erließ China seine vorläufigen Maßnahmen für die Verwaltung von Dienstleistungen durch generative künstliche Intelligenz. Gemäß dem Gesetz müssen bei der Bereitstellung und Nutzung generativer KI-Services „die legitimen Rechte und Interessen anderer respektiert werden“ und es darf „die physische und psychische Gesundheit anderer nicht gefährdet werden und es dürfen nicht die Rechte anderer auf ihr Bild, ihren Ruf, ihre Ehre, ihre Privatsphäre und ihre persönlichen Daten verletzt werden“.
Andere Länder in der Asien-Pazifik-Region haben mehrere Grundsätze und Leitlinien zur Steuerung von KI veröffentlicht. Die Regierung Singapurs veröffentlichte 2024 einen vorgeschlagenen Framework für die Entwicklung generativer KI sowie 2026 ein KI-Governance-Modellframework für agentische KI. Indien, Japan, Südkorea und Thailand arbeiten ebenfalls an Richtlinien und Gesetzen zur KI-Governance.3
Verwalten Sie generative KI-Modelle von überall aus und stellen Sie diese in der Cloud oder lokal mit IBM watsonx.governance bereit.
Sehen Sie, wie KI-Governance dazu beitragen kann, das Vertrauen Ihrer Mitarbeiter in KI zu stärken, die Einführung und Innovation zu beschleunigen und das Vertrauen der Kunden zu verbessern.
Bereiten Sie sich auf das EU-Gesetz zur KI vor und etablieren Sie mithilfe von IBM Consulting einen verantwortungsvollen KI-Governance-Ansatz.
1 „SR 11-7: Guidance on model risk management“ [SR 11-7: Leitlinien zum Management von Modellrisiken]; Board of Governors of the Federal Reserve System, Washington, D.C., Division of Banking Supervision and Regulation. 4. April 2011.
2 „Canada’s new federal directive makes ethical AI a national issue“ [Kanadas neue Bundesrichtlinie macht ethische KI zu einem nationalen Thema]; Digital. 8. März 2019.
3 „Asia-Pacific regulations keep pace with rapid evolution of artificial intelligence technology“ [Die Vorschriften im asiatisch-pazifischen Raum halten mit der rasanten Entwicklung der Technologien im Bereich der künstlichen Intelligenz Schritt]; Sidley. 16. August 2024.