Startseite Seitentitel IBM Office of Privacy and Responsible Technology – Privacy and AI Management System (PIMS) Vertrauen in KI aufbauen
Das IBM Office of Privacy and Responsible Technology hilft dabei, globale Datenschutz- und KI-Compliance-Aufgaben für von IBM verwaltete Modelle des maschinellen Lernens zu vereinfachen und zu automatisieren
Außenansicht eines IBM Bürogebäudes, von der Straße aus gesehen

KI wird bereits eingesetzt, um Entscheidungen darüber zu treffen, ob jemand einen Job bekommen sollte oder nicht. Ob jemand einen Kredit erhalten sollte oder ob diese Person für Wohnraum qualifiziert ist. Die Technologie hat bereits weitreichende, lebensverändernde Auswirkungen, weshalb ein verantwortungsvoller Umgang mit KI von entscheidender Bedeutung ist.

Dieser verantwortungsvolle Umgang ist jedoch leichter gesagt als getan. Und Christina Montgomery, Chief Privacy and Trust Officer bei IBM, ist jemand, der sich dafür einsetzt, dass KI ein positiver Faktor für den Wandel bleibt.

„Innerhalb von IBM haben wir ein AI Ethics Board ins Leben gerufen, wobei ich derzeit den Vorsitz dieses Gremiums innehabe, um diese Herausforderung anzugehen“, erklärt Montgomery. „Wir haben Prinzipien rund um KI formuliert – dass sie transparent und erklärbar sein sollte. Dass sie die Privatsphäre schützen, sicher, umfassend und fair sein sollte. Und obwohl der Vorstand dazu beigetragen hat, diese Prinzipien in unserer Kultur zu verankern, brauchen wir mehr als nur Vertrauen, um sicherzustellen, dass wir uns als Unternehmen an diese Prinzipien halten.“

Glücklicherweise hat IBM bereits zuvor eine Vielzahl von Vorschriften wie diese umgesetzt.

„Die Einhaltung der DSGVO [Datenschutz-Grundverordnung] kommt dem, womit wir es bei KI zu tun haben, wahrscheinlich am nächsten“, fügt Lee Cox, Vice President of Integrated Governance, Services, and Research innerhalb des IBM Office of Privacy and Responsible Technology, hinzu. „Davor war die Art und Weise, wie wir mit datenschutzbezogenen Compliance-Herausforderungen umgingen, eher lokal – viele unserer Programme waren regionalisiert. Sie haben die Arbeit erledigt, aber wir hätten einiges an Arbeit investieren müssen, um sie an neue Anforderungen anzupassen.“

Er fährt fort: „Aber angesichts der DSGVO und anderer Datenschutzbestimmungen mussten wir mit der Koordinierung auf globaler Ebene beginnen. Wir mussten uns schnell anpassen, denn wir sahen uns mit mehr Standards, mehr Verpflichtungen, mehr Komplexität und mehr Sensibilität in Bezug auf die Frage konfrontiert: ‚Was passiert mit meinen Daten und wie werden sie genutzt?’“

Um diese globale Aufgabe zu bewältigen, hat IBM ein unternehmensweites Datenschutz- und KI-Managementsystem (Privacy and AI Management System, PIMS) entwickelt. Aufgrund der Erfolge waren Montgomery und ihr Team der Meinung, dass IBM dieses Tool erweitern könnte, um die Einhaltung der Vorschriften in allen KI-Aktivitäten besser zu dokumentieren und zu verfolgen.

Ähnlich wie beim Datenschutz gab es auch bei der KI in den letzten Jahren eine Lawine von neuen Vorschriften – sowohl auf nationaler als auch auf regionaler Ebene. Ebenso haben verschiedene globale Allianzen und Verbände Richtlinien entwickelt, die dazu beitragen sollen, dass sich KI ethisch und verantwortungsbewusst verhält. Aber es kann schwierig sein, diese wachsende Liste von Erwartungen in großem Umfang zu erfüllen.

„Wir sind ein großes Unternehmen“, fügt Montgomery hinzu. „Wir sind in mehr als 170 Ländern auf der ganzen Welt tätig. Unser Unternehmen besteht aus über 400 verschiedenen juristischen Personen, die mit 13.000 Lieferanten und 150.000 Geschäftspartnern zusammenarbeiten. Bei dieser Größe kann es aus Sicht der Unternehmensführung schwierig sein, alle unsere mehr als 250.000 Mitarbeiter auf den gleichen Nenner zu bringen.“

> 5.500 mit PIMS verwaltete Anwendungen und Prozesse 6 Wochen Zeit für die Einführung eines neuen unternehmensweiten Programms
Wir haben Prinzipien rund um KI formuliert – dass sie transparent und erklärbar sein sollte. Dass sie die Privatsphäre schützen, sicher, umfassend und fair sein sollte. Christina Montgomery Chief Privacy and Trust Officer IBM
Automatisieren. Zentralisieren. Steuern.

Ende 2022 wurde das PIMS aufgerüstet und basiert nun auf IBM® OpenPages- und IBM Knowledge Catalog-Technologie. Die Lösung, die auch innovative Systeme aus dem IBM Data and AI Portfolio umfasst (siehe unten), bietet eine zentrale, unternehmensweite Plattform, die in der Lage ist, Metadaten zum Datenschutz und zum gesamten KI-Lebenszyklus zu erfassen, zu integrieren und transparent zu machen – vom Design über die Bereitstellung bis hin zur täglichen Nutzung.

„Bei PIMS ging es uns vor allem darum, das System zu standardisieren, zu vereinfachen und deutlich zu skalieren“, erinnert sich Cox. „Und jetzt verfolgen wir einen kontinuierlicheren Compliance-Ansatz, der dazu beitragen kann, die Lücken zwischen dem, was wir heute tun, und neuen Vorschriften zu erkennen, sobald sie in Kraft treten.“

„Es ist wichtig, dass wir Vertrauen im gesamten Ökosystem aufbauen – bei unseren Mitarbeitern, unseren Kunden, Regierungen und politischen Entscheidungsträgern“, fügt Montgomery hinzu. „Deshalb setzen wir uns nachdrücklich für Transparenz in Bezug auf unser Engagement im Bereich KI ein, und genau dazu trägt PIMS bei.“

„Besonders wichtig ist das Thema Bias“, bemerkt Cox. „Wenn man die Fehler des Menschen nimmt und diese durch KI in großem Maßstab verstärkt, werden diese Fehler auf mehrere Systeme übertragen, sodass die Auswirkungen auf die Gesellschaft viel weitreichender sind.“

IBM OpenPages dient als Herzstück von PIMS und bietet einen automatisierten, zentralisierten Workflow für zuvor isolierte Funktionen im Zusammenhang mit Governance, Risk and Compliance (GRC). Und IBM Knowledge Catalog liefert den entsprechenden Datenkatalog, um diese GRC-Informationen zusammen mit relevanten Wissensbeständen und Beziehungen zu überwachen und zu kuratieren.

Als Teil der IBM AI Governance-Strategie nutzt PIMS auch die IBM AI Factsheets-Funktion von IBM® Cloud Pak for Data. Dieses Tool verfolgt den Lebenszyklus von Modellen für maschinelles Lernen vom Training bis zur Produktion und erfasst reale Daten, die zur Überwachung von Risiken und Modellabweichungen verwendet werden können.

Und jetzt verfolgen wir einen kontinuierlicheren Compliance-Ansatz, der dazu beitragen kann, die Lücken zwischen dem, was wir heute tun, und neuen Vorschriften zu erkennen, sobald sie in Kraft treten. Lee Cox Vice President of Integrated Governance, Services, and Research IBM
Ausführlichere Informationen

PIMS registriert neue KI-Instanzen, die von IBM in Produktion genommen werden, und Instanzen anderer algorithmischer Systeme. PIMS fügt sie zu einem zentralisierten, unternehmensweiten Workflow hinzu und bewertet sie auf potenzielle Risiken. Und sobald das Modell live ist, bietet die Lösung eine kontinuierliche Überwachung auf Fairness, Qualität und Drift.

Gleichzeitig kann PIMS bei der Verabschiedung neuer Vorschriften eingesetzt werden, um diese Anforderungen zu importieren und die Governance-Modelle und die allgemeine Risikobewertung zu aktualisieren.

„Jedes Jahr werden zahlreiche neue KI-Vorschriften vorgeschlagen“, bemerkt Cox. „Es scheint, als ob jeder US-Bundesstaat dabei ist, seine eigenen Regeln aufzustellen. Im Jahr 2024 kommt außerdem ein wichtiges Gesetz aus Europa dazu.“

Angesichts dieser sich entwickelnden KI-Regulierungslandschaft und der ständigen Verantwortung für die Einhaltung von Datenschutz und Data Governance hat IBM ein Integrated Governance Program (IGP) entwickelt. Diese IGP-Initiative bietet eine einheitliche Strategie für den Umgang mit Datenschutz, KI oder algorithmischen Systemen, Anwendungsfällen für technische Ethik und Anfragen zur Datenfreigabe – alles in demselben übergreifenden Governance-Programm, das PIMS umfasst.

Das IGP hilft IBM bei der Verwaltung seines Compliance-Programms in großem Umfang, und dazu gehört auch der European Union Artificial Intelligence Act, das weltweit erste umfassende KI-Gesetz, das 2024 verabschiedet wird. Mit dem IGP kann KI mit den Anforderungen des Gesetzes in Einklang gebracht werden, die sich auf Risiko, Vertrauen, Sicherheit und Transparenz konzentrieren. Man geht davon aus, dass die menschliche Aufsicht und die Einhaltung von Vorschriften für KI sowohl innerhalb der EU als auch weltweit ein neues Niveau erreichen werden.

Im Gegenzug bieten PIMS und die damit verbundenen integrierten Governance-Workflows eine verbesserte Nachvollziehbarkeit und Berichtsfunktionen, sodass die Datenfreigabeprüfungen abgeschlossen werden können, bevor die Daten für das Vortraining, die Entwicklung oder die Feinabstimmung der Modelle verwendet werden. Das Tool hilft auch dabei, eine genaue Dokumentation und Aufzeichnungen der Verarbeitung (Records of Processing, ROPs), der damit verbundenen Schulungen, Testmetriken und aktuellen Vorhersagen zu KI und anderen algorithmischen Systemen zu führen. In ähnlicher Weise können IBM Mitarbeiter anhand dieses Dokumentenpfads überprüfen, ob die Korrekturmaßnahmen tatsächlich abgeschlossen wurden.

IBM plant, dass zukünftige Versionen von PIMS die neueste watsonx-Produktsuite von IBM, einschließlich watsonx.governance, widerspiegeln werden. Dieser Schritt soll IBM erweiterte Funktionen für die Steuerung des Modelllebenszyklus, wichtige Metriken und umfassendere Benchmarking-Berichte zur Leistung bieten.

Wir können ein Maß an Transparenz bieten, das unseren Partnern und Kunden dabei hilft, das Vertrauen aufzubauen, dass sie diese KI-Technologie Projekt für Projekt übernehmen und dabei das Risiko im Auge behalten können. Christina Montgomery Chief Privacy and Trust Officer IBM
Mehr Compliance, weniger Arbeit

Derzeit verfolgt und verwaltet PIMS über 5.500 Unternehmensanwendungen und Geschäftsprozesse im gesamten IBM Betrieb – und das alles über eine einzige, einheitliche Plattform. Und die Automatisierungsfunktionen des Tools speisen relevante Key Performance Indicators (KPIs) in Governance-Dashboards ein, um die Verwaltung zu vereinfachen, den Aufwand zu reduzieren, die Workload für Korrekturmaßnahmen zu senken und die Einhaltung von Vorschriften zu beschleunigen.

„Anstatt jedes Asset, jede Person, jede Anwendung und jeden Geschäftsprozess durch den Prozessverantwortlichen überwachen zu lassen und ihn zu zwingen, herauszufinden, welche Gesetze einzuhalten sind, maskieren wir diese Komplexität“, erklärt Cox. „Mit PIMS müssen sie sich jetzt nur noch auf die automatisch generierten Korrekturmaßnahmen konzentrieren. So können wir bei IBM Tausende von Arbeitsstunden einsparen.“

Und wenn neue Vorschriften in Kraft treten, kann IBM deren Anforderungen viel schneller erkennen und berücksichtigen.

„Während unseres letzten großes Projekts – der DSGVO – dauerte es etwa 12 Monate, um ein Governance-Modell und eine Tracking-Lösung einzuführen“, erklärt Cox. „Mit PIMS können wir jetzt ein unternehmensweites Programm zur Einhaltung gesetzlicher Vorschriften in wesentlich kürzerer Zeit starten, manchmal sogar in nur sechs Wochen. Die Informationen sind bereits vorhanden, was es schneller und einfacher macht, Lücken zu identifizieren und die Kampagne aufzubauen. Nach dem Start kann PIMS dann die relevanten Tracking- und Korrekturdaten automatisch in unsere Dashboards einspeisen.“

Und diese Geschwindigkeit ist entscheidend, wenn neue Regeln berücksichtigt werden müssen. Montgomery erklärt dazu: „Wenn eine wichtige Verordnung erlassen wird, ist es oft unwahrscheinlich, dass uns eine Anlaufzeit von zwei bis drei Jahren eingeräumt wird. Es dürften eher vier bis fünf Monate sein. Und wenn unsere Partner oder Kunden nicht über PIMS oder ähnliches verfügen, auf die sie sich verlassen können – Tools, die eine ständige Bestandsverwaltung und ein zuverlässiges Verständnis darüber bieten, welche Daten im gesamten Unternehmen verwendet werden –, werden sie Schwierigkeiten mit der Einhaltung der Vorschriften haben.“

„Aber wenn sie mit IBM zusammenarbeiten“, fährt sie fort, „können wir ein Maß an Transparenz bieten, das unseren Partnern und Kunden dabei hilft, das Vertrauen aufzubauen, dass sie diese KI-Technologie Projekt für Projekt übernehmen und dabei das Risiko im Auge behalten können.“

Blaues IBM 8-Balken-Logo
Über das IBM Office of Privacy and Responsible Technology

Das IBM Office of Privacy and Responsible Technology überwacht die Erstellung und Verwaltung globaler IBM Richtlinien zum Schutz und zur Vertraulichkeit persönlicher und geschäftlicher Daten. In Zusammenarbeit mit dem IBM AI Ethics Board steuert das Büro die Governance und die relevanten Entscheidungsprozesse für Richtlinien und Verfahren im Zusammenhang mit KI-Ethik und baut so bei IBM eine Kultur der Verantwortung und des Vertrauens auf.

Sorgen Sie dafür, dass KI das macht, was Sie wollen

Verwalten Sie die Überwachung, Richtung und Governance Ihrer KI-Aktivitäten mit der Technologie von IBM watsonx.governance.

IBM watsonx.governance kennenlernen Weitere Fallstudien anzeigen
Rechtshinweise

© Copyright IBM Corporation 2024. IBM Corporation, IBM Consulting, New Orchard Road, Armonk, NY 10504, USA.

Hergestellt in den Vereinigten Staaten von Amerika, März 2024.

IBM, das IBM Logo, ibm.com, IBM Cloud Pak, OpenPages, watsonx und watsonx.governance sind Marken oder eingetragene Marken der International Business Machines Corporation in den USA und/oder anderen Ländern. Weitere Produkt‐ und Servicenamen können Marken von IBM oder anderen Unternehmen sein. Eine aktuelle Liste der IBM Marken finden Sie unter ibm.com/legal/copyright-trademark.

Das vorliegende Dokument ist ab dem Datum der Erstveröffentlichung aktuell und kann jederzeit von IBM geändert werden. Nicht alle Angebote sind in allen Ländern verfügbar, in denen IBM tätig ist.

Alle angeführten oder beschriebenen Beispiele illustrieren lediglich, wie einige Kunden IBM Produkte verwendet haben und welche Ergebnisse sie dabei erzielt haben. Die tatsächlichen Umgebungskosten und Leistungsmerkmale variieren in Abhängigkeit von den Konfigurationen und Bedingungen des jeweiligen Kunden. Es können keine generell zu erwartenden Ergebnisse bereitgestellt werden, da die Ergebnisse jedes Kunden allein von seinen Systemen und bestellten Services abhängen. DIE INFORMATIONEN IN DIESEM DOKUMENT WERDEN OHNE JEGLICHE AUSDRÜCKLICHE ODER STILLSCHWEIGENDE GARANTIE ZUR VERFÜGUNG GESTELLT, EINSCHLIESSLICH DER GARANTIE DER MARKTGÄNGIGKEIT, DER EIGNUNG FÜR EINEN BESTIMMTEN ZWECK UND DER GARANTIE ODER BEDINGUNG DER NICHTVERLETZUNG VON RECHTEN. Die Garantie für Produkte von IBM richtet sich nach den Geschäftsbedingungen der Vereinbarungen, unter denen sie bereitgestellt werden.

Die Einhaltung sämtlicher geltender Gesetze und Vorschriften liegt in der Verantwortung des Kunden. IBM bietet keine Rechtsberatung an und gewährleistet nicht, dass die Services oder Produkte von IBM die Konformität von Gesetzen oder Verordnungen durch den Kunden sicherstellen.