Was ist Modell-Governance?

Die Modell-Governance hat ihren Ursprung im Finanzsektor, um die Risiken komplexer Finanzmodelle zu bewältigen. Mit der zunehmenden Bedeutung von Technologien für künstliche Intelligenz (KI) und maschinelles Lernen (ML) hat die Relevanz von Model Governance rasch zugenommen. Laut McKinsey geben 78 % der Unternehmen an, dass sie KI in mindestens einer Geschäftsfunktion einsetzen. Dies verdeutlicht, wie sehr KI- und ML-Modelle inzwischen in die betriebliche und strategische Entscheidungsfindung eingebunden sind. 

Der Zweck der Modell-Governance besteht darin, sicherzustellen, dass die Modelle – ob traditionelle Finanzmodelle oder Modelle des maschinellen Lernens – wie beabsichtigt funktionieren, konform bleiben und im Laufe der Zeit vertrauenswürdige Ergebnisse liefern. Ein starkes Framework für die Modell-Governance unterstützt Transparenz, Verantwortlichkeit und Wiederholbarkeit über den gesamten Modelllebenszyklus.

In regulierten Branchen wie dem Banken- und Versicherungswesen ist die Modell-Governance eine Compliance-Anforderung. In den Vereinigten Staaten legt das Office of the Comptroller of the Currency (OCC) spezifische Governance-Praktiken für das Management von Modellrisiken in Finanzinstituten fest. Die Leitlinien des OCC haben zwar keine Gesetzeskraft, werden aber bei behördlichen Prüfungen verwendet. Bei Nichteinhaltung drohen Geld- oder andere Strafen.

Da die Echtzeit-Entscheidungsfindung zur Norm wird und sich die regulatorischen Anforderungen weiterentwickeln, wird eine effektive Modell-Governance zu einer entscheidenden Fähigkeit für Unternehmen, die KI verantwortungsvoll nutzen wollen.

Unternehmen nutzen zunehmend komplexe Modelle zur Unterstützung der Entscheidungsfindung. Ob es um die Kreditwürdigkeitsprüfung in der Bankenbranche oder die Risikobewertung von Patienten im Gesundheitswesen geht, diese Modelle sind nur so effektiv wie die Frameworks, die sie bestimmen. 

Die Model Governance bietet eine Struktur zur Überwachung der Entwicklung, des Einsatzes und der laufenden Leistung von Modellen. Durch die Einrichtung klarer Kontrollen und Verantwortlichkeiten in jeder Phase des Modelllebenszyklus können Unternehmen sicherstellen, dass ihre Modelle zuverlässig und auf die Geschäftsziele abgestimmt bleiben. Dies macht Model Governance zu einer grundlegenden Komponente des Risikomanagements, der regulatorischen Compliance sowie der betrieblichen Integrität. 

Die meisten Modelle – insbesondere ML-Modelle – sind in die Kerngeschäftsprozesse eingebettet. Ohne eine angemessene Steuerung können diese Modelle im Laufe der Zeit abdriften, was zu einer verminderten Modellleistung, voreingenommenen Ergebnissen oder Entscheidungen führt, die nicht mit den aktuellen Marktbedingungen oder demografischen Trends übereinstimmen. In Sektoren wie dem Finanzwesen oder dem Gesundheitswesen können diese Fehler erhebliche Auswirkungen auf die reale Welt haben. 

Modell-Governance bietet einen Mechanismus, um diese Risiken zu bewerten und zu mindern, bevor sie sich auf die Geschäftsergebnisse auswirken. Darüber hinaus können Unternehmen Modell-Governance nutzen, um:

• Verbessern Sie die Einhaltung aufsichtsrechtlicher Vorschriften, indem Sie sich an die Anforderungen des OCC und anderer Aufsichtsbehörden anpassen.
• das Vertrauen der Stakeholder zu stärken, indem sie die Erklärbarkeit, Konsistenz und Zuverlässigkeit der Modellergebnisse sicherstellen
• die betriebliche Effizienz durch Automatisierung und Integration von Governance-Workflows zu optimieren

Da die Einführung von KI immer schneller voranschreitet, dient Model Governance auch als Grundlage für ethische KI. Es bietet eine Möglichkeit, Fairness, Verantwortlichkeit und Transparenz in die Entwicklung und den Einsatz von Modellen für verschiedene Anwendungsfälle einzubinden. 

Ein Governance-Frame für Modelle bringt Struktur in das oft ausufernde Ökosystem aus Algorithmen, Datensatz, Stakeholder und Workflows. Die Frameworks variieren zwar von Branche zu Branche, umfassen aber in der Regel die folgenden Kernkomponenten:

Eine starke Governance beginnt an der Quelle: der Modellentwicklung. Diese Komponente umfasst die Definition von Zielen, die Auswahl von Trainingsdaten, die Validierung von Datenquellen und die Sicherstellung, dass die Modelleingaben auf den beabsichtigten Anwendungsfall abgestimmt sind. Die Datenqualität ist hier von entscheidender Bedeutung, da fehlerhafte oder verzerrte Eingaben zu minderwertigen Modellergebnissen führen können.

Die Dokumentation sollte die Gründe für die gewählte Methode, die getroffenen Annahmen, den verwendeten Datensatz und die erwarteten Ausgaben enthalten. Diese Dokumentation dient als Blueprint für Transparenz und hilft, zukünftige Aktualisierungen, Audits und Modellvalidierungen zu optimieren.

Ein zentralisiertes Modellbestand ermöglicht Unternehmen, jedes Modell zu verfolgen – zusammen mit seinem Zweck, Eigentum, Methodik und Status im Lebenszyklus. Dazu gehören Finanzmodelle, Kreditbewertungsalgorithmen, ML-Modelle zur Betrugserkennung und sogar in Tabellenkalkulationen eingebettete Modelle. 

Ein gut gewarteter Bestand unterstützt auch eine bessere Bewertung und erleichtert die Entscheidungsfindung in Echtzeit bezüglich der Modellnutzung.

Die Validierung ist ein zentraler Aspekt des Modellrisikomanagements . Unabhängige Validierungsteams testen das Modell anhand historischer Daten (Backtesting), bewerten die Sensitivität gegenüber dynamischen Faktoren wie Zinssätzen oder demografischen Veränderungen und Verify, dass die Ausgaben mit den Geschäftserwartungen übereinstimmen.

Bei ML-Modellen erstreckt sich die Validierung auf die Überprüfung auf algorithmische Verzerrungen, Robustheit und Überanpassung, d. h. wenn ein Algorithmus zu sehr (oder sogar genau) an seine Trainingsdaten angepasst ist und keine genauen Schlussfolgerungen aus anderen Daten ziehen kann. Ziel ist es, sicherzustellen, dass die Modellergebnisse stabil und interpretierbar bleiben – auch wenn sich die Eingaben ändern. 

Governance endet nicht, sobald ein Modell bereitgestellt wurde. Eine kontinuierliche Modellüberwachung ist erforderlich, um Leistungsverschlechterung, Drift in den Modell-Eingaben oder Änderungen in der Datenqualität zu erkennen. Observability-Tools können dabei helfen, Metriken wie Genauigkeit und Rückruf zu verfolgen, Anomalien erkennen , die möglicherweise ein erneutes Training oder eine Neukalibrierung erfordern. 

In modernen Machine Learning Operations (MLOps) Workflows können Unternehmen Teile des Bereitstellungsprozesses automatisieren und Governance-Prüfungen direkt in die Continuous Integration, Continuous Delivery (CI/CD) Pipeline integrieren. Dies ermöglicht eine schnellere Iteration, ohne die Übersicht zu beeinträchtigen.

Modell-Governance ist ein Mannschaftssport, bei dem Data Scientists, Risikoverantwortliche, Führungskräfte, Compliance-Teams und Wirtschaftsprüfer die Hauptakteure sind. Die Festlegung klarer Verantwortlichkeiten und Workflows gewährleistet die Verantwortlichkeit in jeder Phase des Lebenszyklus – von der Entwicklung über die Validierung bis zur Außerbetriebnahme des Modells. 

Zu einer effektiven Governance gehört auch Kommunikation. Ob durch interne Dashboards, Governance-Berichte oder sogar einen dedizierten Podcast für funktionsübergreifende Teams, der Informationsfluss muss effizient zwischen den Stakeholdern fließen.

Die Grundsätze der Modell-Governance gelten für eine ganze Reihe von Branchen, die jeweils ihre eigenen Risiken, Vorschriften und Prioritäten haben:

Die Modell-Governance wird durch regionale und globale Vorschriften durchgesetzt, die Unternehmen dafür verantwortlich machen, wie sie Modelle während ihres gesamten Lebenszyklus verwalten. Zu den bemerkenswerten Vorschriften gehören:

SR 11-7 setzt den Standard für das Modellrisikomanagement im Bankwesen und verlangt von den Instituten, ein vollständiges Inventar der Modelle zu führen und unternehmensweite Governance-Praktiken einzuführen. Außerdem müssen die Modelle ihren Zweck erfüllen, auf dem neuesten Stand sein und über eine Dokumentation verfügen, die klar genug ist, um sie unabhängig zu verstehen.

Die National Association of Insurance Commissioners (NAIC) hat Modellvorschriften für KI und algorithmische Entscheidungsfindung eingeführt, insbesondere in Bezug auf Kreditwürdigkeitsprüfung, Preisgestaltung und demografische Fairness. Diese Faktoren werden für das Underwriting von Versicherungen und die Schadensbearbeitung immer wichtiger.

Das Gesetz über künstliche Intelligenz der Europäischen Union, auch bekannt als das EU AI Act oder das KI-Gesetz, ist ein Gesetz, das die Entwicklung und/oder Nutzung von KI in der EU regelt. Das Gesetz verfolgt im Rahmen der Regulierung einen risikobasierten Ansatz und wendet je nach Risiko unterschiedliche Regeln auf KI an.

Gemäß der Allgemeinen Datenschutzverordnung (DSGVO) muss jedes Modell, das die personenbezogenen Daten von EU-Bürgern verarbeitet, Prinzipien wie Fairness, Transparenz und Rechenschaftspflicht folgen. Dies wirkt sich indirekt auf die Governance von ML-Modellen aus, insbesondere auf Erklärbarkeit und Datenqualität. 

Sowohl die Schweizer Finanzmarktaufsicht (FINMA) als auch die britische Prudential Regulation Authority (PRA) haben Leitlinien zur KI- und Modellnutzung in Finanzdienstleistungen herausgegeben: FINMA Guidance 08/2024 und PRA Supervisory Statement SS1/23 .

Diese Dokumente befassen sich mit Bereichen wie Modellsteuerung, Erklärbarkeit von ML-Modellen und umfassender Modelldokumentation. Sie weisen zwar Ähnlichkeiten mit SR 11-7 auf, legen aber jeweils einen besonderen Schwerpunkt auf Aspekte wie KI-spezifische Risiken und betriebliche Resilienz.​

Das Basler Framework umreißt Grundsätze für eine effektive Aggregation von Risikodaten und Risikoberichterstattung (BCB 239), die direkt mit Modell-Governance-Praktiken wie Dokumentation, Erklärbarkeit und Modellrisikoüberwachung verbunden sind. International tätige Banken verwenden Basel oft als Goldstandard neben SR 11-7.

Der Wert der Modell-Governance ist zwar klar, aber ihre Umsetzung in großem Maßstab birgt mehrere Herausforderungen:

• Umfang und Komplexität der Modelle: Da Unternehmen immer mehr ML- und KI-Tools einsetzen, wird es schwierig, einen genauen Modellbestand zu führen – insbesondere wenn Modelle in Tabellenkalkulationen oder Plattformen von Drittanbietern eingebettet sind.
  
  
• Erklärbarkeit und Vertrauen: Viele Stakeholder, einschließlich Aufsichtsbehörden und Führungskräfte, benötigen erklärbare Modelle. Die Balance zwischen Leistung und Erklärbarkeit bleibt ein anhaltendes Spannungsverhältnis bei der Steuerung von KI-Modellen. 
  
  
• Integration mit MLOps: Governance-Frameworks müssen sich an Echtzeit-Workflows und DevOps-ähnliche Bereitstellungen anpassen, ohne die Innovation zu verlangsamen. 

Wenn KI und ML immer stärker in Workflows eingebettet werden, prägen neue Kräfte die Art und Weise, wie Unternehmen die Modell-Governance angehen. Während grundlegende Praktiken wie Validierung, Modelldokumentation und Modellüberwachung nach wie vor unerlässlich bleiben, beginnen mehrere sich abzeichnende Trends, die Erwartungen neu zu definieren.

Diese Trends spiegeln einen breiteren Wandel wider: die laufende Entwicklung der Modell-Governance von einem defensiven Ansatz zu einer strategischen Funktion. Durch den Einsatz strukturierter, funktionsübergreifender Governance-Praktiken können Unternehmen das Vertrauen in ihre maschinellen Lernmodelle stärken und gleichzeitig die Innovation beschleunigen.