Wer ist für verantwortungsvolle KI verantwortlich? Die Antwort wird Sie vielleicht überraschen

Führungskräfte im Bereich Beschaffung, Procurement und Vendor Management (SVPM) haben viel zu tun, wenn es darum geht,eine verantwortungsvolle KI-Governance in ihre Software und Verträge zu integrieren. Ein neuer Gartner-Bericht warnt, dass SPVM-Führungskräfte, die die Notwendigkeit einer KI-Governance übersehen, ihr Unternehmen einem erheblichen Risiko aussetzen.

„Den meisten Verträgen von Software- und Cloud-Anbietern fehlt es an ausdrücklichen Verpflichtungen, die sie für die Bereitstellung verantwortungsvoller KI zur Rechenschaft ziehen, während andere Verträge Haftungsausschlüsse enthalten, die die Haftung für unverantwortliche KI-Systeme und -Ausgaben ausschließen“, so Gartner.

Wenn ich vor einem großen Publikum spreche und die Frage stelle: Wer in einem Unternehmen sollte für die verantwortungsvollen Ergebnisse von KI verantwortlich sein? sind die drei wichtigsten Antworten, die ich erhalte, ziemlich beunruhigend. 

Die drei häufigsten Antworten, die ich erhalte, sind: „Niemand“, „Wir verwenden keine KI“ und „Jeder“. Keine dieser Antworten ist richtig und alle sind besorgniserregend.

Die erste und häufigste Antwort, dass niemand für die Ergebnisse von KI-Modellen verantwortlich ist, ist offenkundig besorgniserregend. Hier gibt es keine Ausrede. Es kann und darf nicht hingenommen werden, dass im Bereich der KI keinerlei Verantwortung übernommen wird. 

Die zweite Antwort, Wir verwenden keine KI, ist lachhaft, wenn man bedenkt, dass KI bereits in viele der Lizenzen für Unternehmenssoftware eingebettet ist, die diese Unternehmen bereits verwenden. Außerdem wird damit deutlich, dass ein Unternehmen die KI in seinem Bestand nicht verfolgt oder, was noch schlimmer ist, seine Mitarbeiter nicht über den angemessenen und nicht angemessenen Einsatz von KI informiert. Das ist ein großes Problem. 

Und die letzte Antwort, dass jeder selbst dafür verantwortlich ist, ist zumindest eine noble Antwort. Jeder, der mit einem KI-Modell über seinen Lebenszyklus hinweg in Berührung kommt, ist in der Tat rechenschaftspflichtig. Wenn jedoch jeder für die Governance verantwortlich gemacht wird, wird dann tatsächlich jemand für die Governance verantwortlich gemacht? Hinter der KI-Verantwortung muss mehr stecken als die Vorstellung, dass es uns gut geht, wenn jeder seine eigene Verwaltung übernimmt.

Es besteht eindeutig eine Diskrepanz zwischen der Art und Weise, wie ein Unternehmen glaubt, mit seiner Verantwortung für KI umzugehen, und der Realität. Lassen Sie mich erklären, was nötig ist, damit ein Unternehmen tatsächlich zur Rechenschaft gezogen werden kann. 

Diejenigen, die für KI-Governance und -Ethik verantwortlich sind, müssen eine Menge beweglicher Teile managen, wobei die Ausrichtung der Werte innerhalb ihrer Unternehmen das Wichtigste ist. Das bedeutet, dass alle Kollegen erkennen müssen, wie wichtig diese Arbeit für den Einzelnen und für das Unternehmen ist. Dies ist nicht immer möglich, wenn der CEO oder der Vorstand nicht konsequent kommuniziert und unterstützt. Diese KI-Governance-Führungskräfte müssen dafür sorgen, dass Kollegen wie der CISO zu Besprechungen über KI-Investitionen eingeladen werden. 

Diese KI-Governance-Führungskräfte können zunächst als Hürde betrachtet werden, die den Fortschritt verlangsamt. Finanzierte und befähigte KI-Governance-Führungskräfte haben die Möglichkeit, umfassende KI-Governance-Plattformen einzurichten, die den vertrauenswürdigen Einsatz von Modellen in einem Bruchteil der Zeit beschleunigen können. Durch die Verwendung von vorab genehmigten Datensätzen und überprüften Prozessen können die Entwickler von KI-Lösungen im Voraus die Anwendungsfälle, Daten und Methoden kennen, die vom Unternehmen bereits vorab genehmigt wurden.

Neben dem Werteabgleich muss die Person oder das Team, das für die KI verantwortlich ist, den Überblick über den KI-Modell-Bestand des Unternehmens behalten. Sie können nur kontrollieren, was Sie sehen können. Daher muss alles, was das Unternehmen gekauft oder gebaut hat und das möglicherweise KI oder Maschinelles Lernen (ML) enthält, zusammen mit den Metadaten, die mit jedem dieser Modelle verbunden sind, nachverfolgt werden. 

Diese Metadaten werden üblicherweise in einem Factsheet oder, wie es manchmal genannt wird, in einer KI-Modellkarte gespeichert. Daraus sollten Sie den Zweck des Modells ersehen können, wer dafür verantwortlich ist, woher die Daten stammen, wofür es geprüft wird, wie regelmäßig es geprüft wird, die Ergebnisse dieser Prüfungen und so weiter.

Dann müssen sie wissen, wie sie diese KI-Modelle und -Lösungen überprüfen können, um zu kontrollieren, ob sich die Technologie so verhält, wie Sie es sich vorgestellt haben. Dies ist ein entscheidender Punkt, wenn Sie Ihre Anbieter vertraglich für ihre Modelle zur Verantwortung ziehen wollen.

Und dann müssen sie die Vorschriften nachverfolgen. Die regulatorische Landschaft verändert sich ständig, insbesondere in Bezug auf KI. Viele Länder, Staaten und Städte haben Gesetze, die sich speziell mit dem Einsatz und den Risiken von KI befassen. Letztes Jahr hat die EU den EU AI Act auf den Weg gebracht. Viele Unternehmen und Regierungsbehörden wurden bereits erfolgreich für ihre fehlerhaften Modelle verklagt.

Man hat erkannt, dass es Modelle geben kann, die „rechtmäßig, aber schrecklich“ sind, was bedeutet, dass man sich mit der Ethik rund um die KI auseinandersetzen muss. Und jedes Mal, wenn Sie sich mit dem Thema Ethik befassen, müssen Sie ein großartiger Lehrer sein. 

Sie müssen in der Lage sein, den Leuten, die in Ihrem Auftrag Modelle bauen oder sogar Modelle in Ihrem Auftrag kaufen, beizubringen, dass sie dies auf eine Weise tun, die die Ethik Ihres Unternehmens widerspiegelt.

Sehen Sie sich nur den menschlichen Mehrwert von „Fairness“ an. Wir alle erwarten von KI-Modellen, dass sie fair sind, aber wessen Weltanschauung von Fairness wird im KI-Modell repräsentiert? Als Gesellschaft können wir nicht zustimmen, dass es eine einzige Weltanschauung zur Fairness gibt.

In der Praxis bedeutet dies, dass die Verantwortlichen für KI-Governance- und Ethikprogramme in ihren Unternehmen auch für KI-Bildungsprogramme zuständig sind. 

Diese Programme zur Vermittlung von KI-Kenntnissen beschränken sich nicht darauf, Mitarbeitern beizubringen, wie sie KI bei ihrer Arbeit einsetzen können, um produktiver zu sein. KI-Kompetenz beginnt mit der Frage, welche Beziehung das Unternehmen zu KI haben möchte. Diese Kompetenzprogramme stellen die Grundprinzipien vor, von denen die Unternehmen erwarten, dass sie sich in jeder entwickelten oder gekauften KI-Lösung widerspiegeln. Sie lernen, wie Sie jedes dieser Prinzipien operationalisieren oder ihnen bei verschiedenen Risikoniveaus zum Leben verhelfen können.

Diese Programme zur Vermittlung von KI-Kenntnissen sind notwendigerweise multidisziplinär, denn das Vertrauen in KI ist kein rein technisches Problem, sondern ein soziotechnisches. Modelle zu bauen, die die menschlichen Werte widerspiegeln, kann eine der schwierigsten Aufgaben sein, die wir uns als Menschen vorgenommen haben. Es braucht Menschen, die in allen möglichen Disziplinen zu Hause sind.

Für KI verantwortlich zu sein, ist eine wichtige Aufgabe und deshalb brauchen diese Personen eine enorme Machtfülle und ein finanzielles Mandat, um diese Arbeit zu erledigen. Das kann nicht nur ein Nebenjob sein. Es erfordert eine Menge Arbeit, diese Probleme zu lösen. Alle Unternehmen sollten daran arbeiten, die Verantwortung für KI auf verantwortungsvolle Art und Weise zu delegieren.

Einfach ausgedrückt: Sie erhalten mehr von den menschlichen Verhaltensweisen, die Sie messen. Welche Verhaltensweisen Ihrer Mitarbeiter fördern und messen Sie im Hinblick auf die verantwortungsbewusste Kuratierung von Modellen? Überlegen Sie, wie Sie Anreize schaffen und die richtigen Verhaltensweisen messen können, aber auch, wie Sie das Lehren und Lernen besser in Ihre KI-Governance-Prozesse einbinden können. Viele haben keinen Anreiz, beim Ausfüllen von Formularen zur Bestandsaufnahme von KI-Modellen sorgfältig vorzugehen, oder schlimmer noch, sie sind sich der Risiken des Modells, für das sie eintreten, gar nicht bewusst.

Zusammenfassend möchte ich Ihnen 4 wichtige Erkenntnisse mit auf den Weg geben:

1. Bereit oder nicht, KI wird gerade jetzt in Ihrem Unternehmen eingesetzt. Unabhängig davon, ob Sie ein Inventar der von Ihnen beschafften KI-Modelle führen oder nicht, werden bis 2026 80 % der Softwareanbieter KI in ihre Unternehmensanwendungen integriert haben. Seien Sie proaktiv und entwickeln Sie eine rigorose KI-Strategie, die es Ihnen ermöglicht, KI zu steuern und effizient zu betreiben.
2. Die Verantwortlichen für die KI-Governance brauchen ein finanziertes Mandat, denn die KI-Governance erfordert einen enormen Arbeitsaufwand, und der Umfang dieser Arbeit nimmt zu. Finanzieren Sie Ihre Leute und geben Sie ihnen die Mittel, diese Arbeit zu tun.
3. Implementieren Sie Ihre KI nach ethischen Gesichtspunkten und achten Sie bewusst auf die menschlichen Ergebnisse. Wir alle erwarten, dass die KI-Modelle, die wir verwenden oder die für uns verwendet werden, unsere eigenen menschlichen Werte widerspiegeln, dass sie uns nicht „belügen“, dass sie fair sind und dass sie sicher zu verwenden sind. Erkennen Sie, dass dies keine rein technische, sondern eine sozio-technische Herausforderung ist. Das erfordert einen ganzheitlichen Ansatz und Fachwissen über menschliches Verhalten.
4. Es braucht viel, um das Risiko von KI zu verringern. Skalierte KI erfordert die richtige Strategie, Daten, Architektur, Sicherheit und Governance. Es erfordert auch das richtige Verständnis zwischen Ihren Anbietern. Wählen Sie einen pragmatischen Partner, der dies richtig macht und dafür sorgt, dass keine Fehler passieren.