Unternehmen riskieren den Ruf ihrer Marke, wenn ihre KI-Modelle verzerrt oder nicht erklärbar sind. Außerdem drohen Prüfungen durch Behörden und Geldstrafen in Millionenhöhe, wenn sie die komplexen und sich ändernden gesetzlichen Anforderungen nicht erfüllen. All diese Probleme können verheerende Auswirkungen auf die Beziehungen zu Aktionären und Kunden haben.
Ihr KI-Modell kennen und ihm vertrauen
Blackbox-Modelle, denen es an Transparenz mangelt, bereiten den KI-Stakeholdern zunehmend Sorgen. Diese Modelle werden erstellt und implementiert, aber es fehlt ihnen an Transparenz. Es ist – selbst für den Data Scientist – nicht immer einfach, nachzuvollziehen, wie und warum das Modell eine Entscheidung getroffen hat. Und mit dem Aufkommen von Vorschriften wie dem Gesetz von New York City, das den Einsatz von KI im Einstellungsprozess regelt, und dem von der Europäischen Union vorgeschlagenen KI-Gesetz müssen die Unternehmen schnell lernen, damit umzugehen.
KI-Governance ist der Gesamtprozess der Steuerung, Verwaltung und Überwachung der KI-Aktivitäten in allen geschäftlichen Abläufen. Datenverantwortliche sollten von Beginn eines KI-Projekts an mit Chief Risk Officers, Chief Compliance Officers und anderen wichtigen Stakeholdern zusammenarbeiten, um ein Governance-Framework für KI zu entwickeln. Dieses Framework sollte die Best Practices des Unternehmens für die Entwicklung, die Bereitstellung und die Verwaltung von KI-Modellen und letztlich die Beseitigung der Blackbox darlegen.
Lückenlose Nachverfolgung von Modellen
KI-Governance legt die Rahmenbedingungen für jede Phase des KI- und ML-Lebenszyklus fest, einschließlich Datenerfassung, Modellerstellung, Bereitstellung, Verwaltung und Überwachung. Diese Vorgaben ermöglichen transparentere Prozesse und sorgen dafür, dass die Ergebnisse für wichtige Stakeholder und Kunden erklärbar sind. Die lückenlose Implementierung von KI-Governance hilft Ihnen dabei, Ihre Risiken und Ihre Reputation besser zu managen, ethische Grundsätze einzuhalten und gesetzliche Vorschriften zu erfüllen und entsprechend zu skalieren.
Ein großer US-amerikanischer Einzelhändler wandte sich an IBM, um Hilfe bei der Lösung von Problemen mit der Fairness in Tools und Einstellungssystemen zur Überprüfung von Bewerbern zu erhalten. Für diesen Arbeitgeber war es von entscheidender Bedeutung, Fairness und Vertrauen zu schaffen. Dazu gehörte auch die Fähigkeit, Bias zu erkennen und Entscheidungen in seinen KI- und ML-Modellen für die Einstellung von Mitarbeitern erklären zu können. Das Unternehmen nutzte IBM Cloud Pak for Data, um KI-gestützte Modelle konsequent im Hinblick auf Genauigkeit und Fairness zu verwalten. Jetzt kann das Unternehmen proaktiv auf Bias in seinen Einstellungsprozessen achten und diese reduzieren.
Präsentation Ihrer Arbeit
IBM wendet diesen Ansatz auch intern an. „Wenn eine bestimmte Vorschrift Transparenz oder Erklärbarkeit erfordert, stellen wir sicher, dass der Algorithmus oder die Folgenabschätzung diese Details aufzeigt, damit wir uns schnell auf die kontinuierliche Einhaltung neuer Vorschriften einstellen können, anstatt das Geschäft zu beeinträchtigen“, sagt Eliuk.
Da sich KI von der Experimentierphase zu einem geschäftskritischen Thema entwickelt, erkennen Unternehmen, wie wichtig es ist, KI-Governance proaktiv zu implementieren, um KI transparent und erklärbar zu machen. Das Fehlen von Richtlinien für KI kann KI-Projekte zum Scheitern bringen und Innovationen ausbremsen.