Anwendungsfall für KI-Governance

Um verantwortungsbewusste, transparente und nachvollziehbare KI-Workflows zu fördern, benötigt Ihr Unternehmen ein integriertes System zur Nachverfolgung, Überwachung und Nachschulung von KI-Modellen. Cloud Pak for Data bietet die Prozesse und Technologien, mit denen Ihr Unternehmen Machine-Learning- und KI-Modelle in der Produktion überwachen, warten, automatisieren und steuern kann.

Sehen Sie sich dieses Video an, um den Anwendungsfall für die Implementierung einer KI-Governance-Lösung zu sehen.

Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Aufgaben in dieser Dokumentation.

Challenges (Abfragen)

Durch die Implementierung eines Anwendungsfalls für KI-Governance können Sie die folgenden Herausforderungen für Ihr Unternehmen lösen:

Sicherstellung der Modell-Governance und Compliance: Unternehmen müssen die detaillierte Historie von Modellen nachverfolgen und dokumentieren, um die Einhaltung von Vorschriften sicherzustellen und allen Beteiligten Transparenz zu bieten.
Risikomanagement und Gewährleistung einer verantwortungsvollen KI: Unternehmen müssen Modelle in der Produktion überwachen, um sicherzustellen, dass die Modelle gültig und genau sind und dass sie keine Verzerrungen verursachen oder von den beabsichtigten Zielen abweichen.
Operationalisierung des Modelllebenszyklus: Unternehmen müssen wiederholbare Prozesse implementieren, um Modelle effizient neu zu trainieren und in Produktionsumgebungen einzusetzen.

Beispiel: Die Herausforderungen der Golden Bank

Verfolgen Sie die Geschichte der Golden Bank, die einen KI-Governance-Prozess implementiert, um sicherzustellen, dass ihr neues Online-Bewerbungsverfahren konform und nachvollziehbar ist. Die Business-Analysten der Golden Bank müssen Modellinformationen überprüfen, um die Einhaltung von Vorschriften sicherzustellen, den Fortschritt des Modells von der Entwicklung bis zur Produktion zu zertifizieren und Berichte zu erstellen, die weitergegeben oder archiviert werden können.

Prozess

Um KI-Governance in Ihrem Unternehmen zu implementieren, kann Ihre Organisation diesen Prozess befolgen:

Modelle verfolgen
Eingesetzte Modelle überwachen
Automatisieren Sie den KI-Lebenszyklus

Die Dienste Watson Studio, Watson Machine Learning, Watson OpenScale, IBM Knowledge Catalog, IBM Orchestration Pipelines, AI Factsheets und IBM OpenPages in Cloud Pak for Data bieten alle Tools und Prozesse, die Ihr Unternehmen zur Implementierung einer KI-Governance-Lösung benötigt.

Bild, das den Ablauf des Anwendungsfalls der KI-Governance zeigt

1. Schienenmodelle

Ihr Team kann Ihre Machine-Learning-Modelle von der Anfrage bis zur Produktion verfolgen und bewerten, ob die Modelle den Vorschriften und Anforderungen Ihres Unternehmens entsprechen.

Was Sie verwenden können	Aktion	Am besten zu verwenden, wenn
Informationsblätter	Erstellen Sie im Modellinventar eines Katalogs in IBM Knowledge Catalog einen Anwendungsfall für ein neues Modell. Zeigen Sie den Lebenszyklusstatus für alle registrierten Assets an und führen Sie einen Drilldown zu detaillierten Datenblättern für Modelle oder Bereitstellungen durch, die für den Modellanwendungsfall registriert sind. Zeigen Sie allgemeine Modelldetails, Schulungsinformationen und Metriken sowie Eingabe- und Ausgabeschemata an. Zeigen Sie allgemeine Bereitstellungsdetails, Bewertungsdetails, Qualitätsmetriken, Fairnessdetails und Driftdetails an .	Sie müssen ein neues Modell bei Ihrem Data-Science-Team anfordern. Sie möchten sicherstellen, dass Ihr Modell konform ist und wie erwartet funktioniert. Sie möchten anhand von Tracking-Daten feststellen, ob Sie ein Modell aktualisieren müssen. Sie möchten Berichte zu einem Modell erstellen, um Details weiterzugeben oder zu speichern.
IBM OpenPages	Identifizieren, verwalten, überwachen und berichten Sie über Risiken und die Einhaltung gesetzlicher Vorschriften.	Sie möchten einen integrierten Ansatz für die Erfassung und Berichterstattung von Modelldaten.

Beispiel: Modellverfolgung der Golden Bank

Die Wirtschaftsanalysten der Golden Bank fordern ein „Modell zur Genehmigung von Hypotheken“. Anschließend können sie das Modell durch alle Phasen des KI-Lebenszyklus verfolgen, während Datenwissenschaftler das Modell erstellen und trainieren und ModelOps Ingenieure es einsetzen und bewerten. Factsheets dokumentieren Details zur Modellhistorie und generieren Kennzahlen, die dessen Leistung aufzeigen.

2. Überwachen Sie eingesetzte Modelle

Nachdem Modelle bereitgestellt wurden, ist es wichtig, sie zu regeln und zu überwachen, um sicherzustellen, dass sie erklärbar und transparent sind. Datenwissenschaftler müssen in der Lage sein, zu erklären, wie die Modelle zu bestimmten Vorhersagen gelangen, damit sie feststellen können, ob die Vorhersagen implizite oder explizite Verzerrungen aufweisen. Darüber hinaus ist Best Practice, während des Lebenszyklus des Modells auf Probleme mit der Modellleistung und der Datenkonsistenz zu achten.

Was Sie verwenden können	Aktion	Am besten zu verwenden, wenn
Watson OpenScale	Überwachen Sie Fragen der Modellgerechtigkeit über mehrere Funktionen hinweg. Überwachen Sie die Modellleistung und Datenkonsistenz im Zeitverlauf. Erläutern Sie, wie das Modell mit gewichteten Faktoren zu bestimmten Vorhersagen gelangt ist. Pflegen und berichten Sie über die Modell-Governance und den Lebenszyklus in Ihrem gesamten Unternehmen.	Sie verfügen über Funktionen, die geschützt sind oder zur Fairness der Vorhersagen beitragen können. Sie möchten die Modellleistung und die Datenkonsistenz im Zeitverlauf verfolgen. Sie möchten wissen, warum das Modell bestimmte Vorhersagen trifft.

Beispiel: Modellüberwachung der Golden Bank

Die Datenwissenschaftler der Golden Bank verwenden Watson OpenScale zur Überwachung des eingesetzten „Hypothekengenehmigungsmodells“, um sicherzustellen, dass es korrekt ist und alle Hypothekenantragsteller der Golden Bank fair behandelt. Sie verwenden ein Notebook, um Monitore für das Modell einzurichten, und optimieren dann die Konfiguration über die Watson OpenScale Benutzeroberfläche. Anhand der Metriken aus dem Watson OpenScale Qualitätsmonitor und dem Fairnessmonitor bestimmen die Datenwissenschaftler, wie gut das Modell Ergebnisse vorhersagt und ob es zu verzerrten Ergebnissen kommt. Sie erhalten auch Einblicke, wie das Modell zu Entscheidungen gelangt, sodass diese den Hypothekenantragstellern erklärt werden können.

3. Automatisieren Sie den KI-Lebenszyklus

Mit „ Orchestration Pipelines “ kann Ihr Team den MLOps- und KI-Lebenszyklus automatisieren und vereinfachen.

Was Sie verwenden können	Aktion	Am besten zu verwenden, wenn
Orchestration Pipelines	Verwenden Sie Pipelines, um wiederholbare und geplante Abläufe zu erstellen, die Machine-Learning-Pipelines automatisieren, von der Datenerfassung bis zum Modelltraining, Testen und Bereitstellen.	Sie möchten einige oder alle Schritte in einem MLOps-Ablauf automatisieren.

Beispiel: Automatisierter ML-Lebenszyklus der Golden Bank

Die Datenwissenschaftler der Golden Bank können Pipelines nutzen, um ihren gesamten KI-Governance-Lebenszyklus und ihre Prozesse zu automatisieren und so den Prozess der Modell-Nachschulung zu vereinfachen.

Tutorials für KI-Governance

Lernprogramm	Beschreibung	Fachkenntnisse für das Lernprogramm
Lernprogramm zum Erstellen und Bereitstellen eines Modells	Sie trainieren ein Modell, stufen es in einen Bereitstellungsbereich hoch und stellen das Modell bereit.	Notebook ausführen.
Test und Validierung eines Modell-Tutorials	Sie bewerten ein Modell auf Genauigkeit, Fairness und Erklärbarkeit.	Notebook ausführen und Ergebnisse in der Benutzeroberfläche anzeigen.