Operationalisierung von verantwortungsvollen KI-Prinzipien für die Verteidigung
Künstliche Intelligenz (KI) verändert die Gesellschaft, einschließlich des Charakters der nationalen Sicherheit. Das Verteidigungsministerium (DoD) hat dies erkannt und 2019 das Joint Artificial Intelligence Center (JAIC) ins Leben gerufen, den Vorgänger des Chief Digital and Artificial Intelligence Office (CDAO), um KI-Lösungen zu entwickeln, die einen militärischen Wettbewerbsvorteil, die Voraussetzungen für eine menschenzentrierte KI-Einführung und die Agilität der DoD-Operationen schaffen. Die Hindernisse für die Skalierung, Einführung und Ausschöpfung des vollen Potenzials von KI im Verteidigungsministerium ähneln jedoch denen im privaten Sektor.
Eine aktuelle IBM Umfrage ergab, dass die größten Hindernisse für eine erfolgreiche KI-Bereitstellung begrenzte KI-Fähigkeiten und -Fachwissen, Datenkomplexität und ethische Bedenken sind. Des Weiteren geben laut dem IBM Institute of Business Value 79 % der Führungskräfte an, dass KI-Ethik für ihren unternehmensweiten KI-Ansatz wichtig ist. Dennoch haben weniger als 25 % gemeinsame Prinzipien der KI-Ethik operationalisiert. Vertrauen in die Ausgaben von KI-Modellen zu gewinnen, ist eine soziotechnische Herausforderung, die eine soziotechnische Lösung erfordert.
Führungskräfte im Verteidigungsbereich, die sich auf die Operationalisierung der verantwortungsvollen Kuratierung von KI konzentrieren, müssen sich zunächst auf ein gemeinsames Vokabular einigen – eine gemeinsame Kultur, die einen sicheren und verantwortungsvollen Einsatz von KI anleitet – bevor sie technologische Lösungen und Leitplanken zur Risikominderung implementieren. Das Verteidigungsministerium kann eine solide Grundlage dafür schaffen, indem es die KI-Kompetenz verbessert und mit vertrauenswürdigen Unternehmen zusammenarbeitet, um eine Governance zu entwickeln, die auf seine strategischen Ziele und Werte abgestimmt ist.
Es ist wichtig, dass die Mitarbeiter wissen, wie sie KI bereitstellen können, um die Effizienz des Unternehmens zu verbessern. Ebenso wichtig ist jedoch, dass sie ein tiefes Verständnis für die Risiken und Grenzen der KI haben und wissen, wie sie die entsprechenden Sicherheitsmaßnahmen und ethischen Leitplanken umsetzen können. Dies sind Grundvoraussetzungen für das Verteidigungsministerium und jede andere Regierungsbehörde.
Ein maßgeschneiderter KI-Lernpfad kann dabei helfen, Lücken und Schulungsbedarf zu identifizieren, damit die Mitarbeiter das Wissen erwerben, das sie für ihre spezifischen Aufgaben benötigen. Institutionsweite KI-Kompetenz ist für alle Mitarbeiter unerlässlich, damit sie sich schnell entwickelnde, virale und gefährliche Bedrohungen wie Desinformation und Deepfakes schnell bewerten, beschreiben und darauf reagieren können.
IBM wendet KI-Kompetenz in unserem Unternehmen auf maßgeschneiderte Weise an, da die Definition der wesentlichen KI-Kompetenz je nach Position einer Person variiert.
Als führendes Unternehmen im Bereich vertrauenswürdiger künstlicher Intelligenz hat IBM Erfahrung in der Entwicklung von Governance-Frameworks, die den verantwortungsvollen Einsatz von KI in Übereinstimmung mit den Werten des Kundenunternehmens leiten. IBM verfügt auch über eigene Frameworks für den Einsatz von KI innerhalb von IBM, die politische Positionen wie den Einsatz von Gesichtserkennungstechnologie beeinflussen.
KI-Tools werden heute im Bereich der nationalen Sicherheit und zum Schutz vor Datenschutzverletzungen und Cyberangriffen eingesetzt. Aber KI unterstützt auch andere strategische Ziele des Verteidigungsministeriums. Sie kann die Belegschaft erweitern, dazu beitragen, ihre Effektivität zu steigern und ihnen bei der Umschulung zu helfen. Sie kann helfen, resiliente Lieferketten zur Unterstützung von Soldaten, Matrosen, Fliegern und Marinesoldaten in den Bereichen Kriegsführung, humanitäre Hilfe, Friedenssicherung und Katastrophenhilfe zu schaffen.
Das CDAO nimmt als Teil seines verantwortungsvollen KI-Toolkits fünf ethische Prinzipien auf: verantwortungsbewusst, gerecht, nachvollziehbar, zuverlässig und steuerbar. Diese Grundsätze basieren auf dem bestehenden Ethik-Framework des US-Militärs und sind in den Werten des Militärs verankert. Sie tragen dazu bei, das Engagement des Militärs für eine verantwortungsvolle KI aufrechtzuerhalten.
Es müssen gemeinsame Anstrengungen unternommen werden, um diese Grundsätze durch Berücksichtigung der funktionalen und nichtfunktionalen Anforderungen in den Modellen und den Governance-Systemen rund um diese Modelle zu verwirklichen. Im Folgenden geben wir umfassende Empfehlungen für die Operationalisierung der ethischen Grundsätze des CDAO.
1. Verantwortungsbewusst
„Das Personal des Verteidigungsministeriums wird ein angemessenes Maß an Urteilsvermögen und Sorgfalt walten lassen und gleichzeitig für die Entwicklung, die Bereitstellung und die Nutzung von KI-Funktionen verantwortlich bleiben.“
Alle sind sich einig, dass KI-Modelle von Mitarbeitern entwickelt werden sollten, die sorgfältig und rücksichtsvoll vorgehen, aber wie können Unternehmen Mitarbeiter für diese Arbeit gewinnen? Wir empfehlen:
- Förderung einer Unternehmenskultur, welche die soziotechnische Natur von KI-Herausforderungen anerkennt. Dies muss von Anfang an kommuniziert werden, und die Praktiken, Fähigkeiten und Überlegungen, die in die Modelle und ihre Verwaltung zur Überwachung der Leistung einfließen müssen, müssen anerkannt werden.
- Detaillierte Darstellung der ethischen Praktiken während des gesamten KI-Lebenszyklus, entsprechend den Zielen des Unternehmens (oder der Mission), der Datenaufbereitung und -modellierung, der Bewertung und der Bereitstellung. Das CRISP-DM-Modell ist in diesem Fall nützlich. Die Scaled Data Science Method von IBM, eine Erweiterung von CRISP-DM, bietet Governance über den gesamten Lebenszyklus von KI-Modellen hinweg und basiert auf kollaborativer Eingabe von Data Scientists, Betriebspsychologen, Designern, Kommunikationsspezialisten und anderen. Die Methode führt Best Practices in den Bereichen Data Science, Projektmanagement, Design-Frameworks und KI-Governance zusammen. Teams können die Anforderungen in jeder Phase des Lebenszyklus leicht sehen und verstehen, einschließlich der Dokumentation, mit wem sie sprechen oder zusammenarbeiten müssen, und die nächsten Schritte.
- Bereitstellung interpretierbarer Metadaten von KI-Modellen (zum Beispiel als Factsheets) mit Angabe der verantwortlichen Personen, Leistungs-Benchmarks (im Vergleich zu menschlichen), verwendeten Daten und Methoden, Prüfungsaufzeichnungen (Datum und von wem) sowie Prüfungszweck und Ergebnisse.
Hinweis: Diese Verantwortungsmaßstäbe müssen für KI-Laien interpretierbar sein (ohne „Mathsplaining“).
2. Gerecht
„Das Ministerium wird bewusste Maßnahmen ergreifen, um unbeabsichtigte Verzerrung in den KI-Funktionen zu minimieren.“
Alle sind sich einig, dass die Nutzung von KI-Modellen fair sein und nicht diskriminieren darf, aber wie sieht das in der Praxis aus? Wir empfehlen:
- Einrichtung eines Kompetenzzentrums, um diversen, multidisziplinären Teams eine Gemeinschaft für angewandte Schulungen zu bieten, um mögliche verteilte Auswirkungen zu identifizieren.
- Verwendung von Auditing-Tools, um die in den Modellen festgestellten Verzerrungen widerzuspiegeln. Wenn die Reflexion mit den Werten des Unternehmens übereinstimmt, ist die Transparenz über die gewählten Daten und Methoden von entscheidender Bedeutung. Wenn die Reflexion nicht mit den Werten des Unternehmens übereinstimmt, dann ist das ein Signal, dass sich etwas ändern muss. Die Erkennung und Abschwächung potenziell verteilter Auswirkungen durch Verzerrungen erfordert weit mehr als die Untersuchung der Daten, auf denen das Modell trainiert wurde. Unternehmen müssen auch die beteiligten Personen und Prozesse untersuchen. Wurden beispielsweise die angemessene und unangemessene Verwendung des Modells klar kommuniziert?
- Messung von Fairness und Umsetzung von Gerechtigkeitsstandards durch Bereitstellung funktionaler und nicht-funktionaler Anforderungen für verschiedene Serviceniveaus.
- Verwendung von Design-Thinking-Frameworks, um unbeabsichtigte Auswirkungen von KI-Modellen zu bewerten, die Rechte der Endnutzer zu bestimmen und Prinzipien zu operationalisieren. Es ist wichtig, dass an den Design-Thinking-Übungen Menschen mit unterschiedlichsten gelebten Erfahrungen beteiligt sind – je vielfältiger, desto besser.
3. Nachvollziehbar
„Die KI-Fähigkeiten der Abteilung werden entwickelt und bereitgestellt, sodass relevante Mitarbeiter ein angemessenes Verständnis der Technologie, der Entwicklungsprozesse und der Betriebsmethoden haben, die für die KI-Funktionen gelten, einschließlich transparenter und überprüfbarer Methoden, Datenquellen, Entwurfsverfahren und Dokumentation.“
Operationalisieren Sie die Rückverfolgbarkeit, indem Sie allen Mitarbeitern mithilfe von KI klare Richtlinien an die Hand geben:
- Machen Sie es Benutzern immer deutlich, wenn sie eine Schnittstelle zu einem KI-System verwenden.
- Stellen Sie eine inhaltliche Grundlage für KI-Modelle bereit. Geben Sie Experten die Möglichkeit, vertrauenswürdige Datenquellen zu kuratieren und zu pflegen, die zum Schulen von Modellen verwendet werden. Die Ausgabe des Modells basiert auf den Daten, mit denen es trainiert wurde.
IBM und seine Partner können KI-Lösungen mit umfassenden, überprüfbaren Inhalten anbieten, die für Anwendungsfälle mit hohem Risiko unerlässlich sind.
- Erfassen Sie wichtige Metadaten, um KI-Modelle transparent zu machen und den Überblick über den Modellbestand zu behalten. Stellen Sie sicher, dass diese Metadaten interpretierbar sind und die richtigen Informationen an die entsprechenden Mitarbeiter weitergegeben werden. Die Dateninterpretation erfordert Übung und ist eine fachübergreifende Aufgabe. Bei IBM hat sich unsere Gruppe Design for AI zum Ziel gesetzt, Mitarbeiter über die kritische Rolle von Daten in der KI und anderen Grundlagen aufzuklären und sie spendet Frameworks an die Open-Source-Community.
- Sorgen Sie dafür, dass diese Metadaten für Menschen leicht auffindbar sind (letztendlich an der Quelle der Ausgabe).
- Beziehen Sie den Menschen ein, da die KI ihn ergänzen und unterstützen sollte. So können Menschen Feedback geben, während KI-Systeme arbeiten.
- Erstellen Sie Prozesse und Frameworks, um verteilt Auswirkungen und Sicherheitsrisiken zu bewerten, lange bevor das Modell bereitgestellt wird. Benennen Sie verantwortliche Personen, um diese Risiken zu mindern.
4. Zuverlässig
„Die Funktionen des Ministeriums werden explizite, klar definierte Verwendungszwecke haben, und die Sicherheit und Effektivität dieser Funktionen werden innerhalb dieser definierten Verwendungszwecke über ihre gesamten Lebenszyklen hinweg getestet und gesichert.“
Unternehmen müssen klar definierte Anwendungsfälle dokumentieren und dann die Einhaltung der Vorschriften prüfen. Die Operationalisierung und Skalierung dieses Prozesses erfordert eine starke kulturelle Ausrichtung, damit die Praktiker auch ohne ständige direkte Aufsicht die höchsten Standards einhalten können. Zu den Best Practices gehören:
- Die Schaffung von Gemeinschaften, die immer wieder bekräftigen, warum faire und zuverlässige Ausgaben unerlässlich sind. Viele Anwender sind der festen Überzeugung, dass es allein durch die besten Absichten keine verteilten Auswirkungen geben kann. Das ist falsch. Kritisch ist die angewandte Schulung durch hoch engagierte Führungskräfte, die den Menschen das Gefühl geben, gehört und einbezogen zu werden.
- Begründungen für Zuverlässigkeitsprüfungen auf der Grundlage der Richtlinien und Standards für Daten, die beim Modelltraining verwendet werden, entwickeln. Der beste Weg, dies zu veranschaulichen, besteht darin, Beispiele dafür zu nennen, was passieren kann, wenn eine solche Kontrolle fehlt.
- Beschränken Sie den Zugang der Nutzer auf die Modellentwicklung, aber sammeln Sie zu Beginn eines Projekts unterschiedliche Perspektiven, um Verzerrungen zu vermeiden.
- Führen Sie Datenschutz- und Sicherheitsprüfungen während des gesamten KI-Lebenszyklus durch.
- Beziehen Sie Genauigkeitsmessungen in die regelmäßig geplanten Audits ein. Machen Sie unmissverständlich deutlich, wie die Leistung des Modells im Vergleich zu der eines Menschen abschneidet. Falls das Modell keine genauen Ergebnisse liefert, geben Sie an, wer für dieses Modell verantwortlich ist und welche Rechtsmittel den Nutzern zur Verfügung stehen. (Dies alles sollte in die interpretierbaren, auffindbaren Metadaten integriert sein).
5. Steuerbar
„Das Ministerium wird KI-Funktionen so konzipieren und entwickeln, dass sie ihre beabsichtigten Funktionen erfüllen und gleichzeitig die Fähigkeit besitzen, unbeabsichtigte Folgen zu erkennen und zu vermeiden sowie Bereitstellungssysteme, die ein unbeabsichtigtes Verhalten zeigen, abzuschalten oder zu deaktivieren.“
Die Umsetzung dieses Prinzips erfordert:
- Die Investition in KI-Modelle endet jedoch nicht bei der Bereitstellung. Stellen Sie Ressourcen bereit, um sicherzustellen, dass sich die Modelle weiterhin wie gewünscht und erwartet verhalten. Bewerten und mindern Sie das Risiko während des gesamten KI-Lebenszyklus, nicht nur nach der Bereitstellung.
- Benennung einer rechenschaftspflichtigen Partei, die über ein finanziertes Mandat verfügt, um die Regierungsarbeit zu erledigen. Sie müssen Macht haben.
- Investieren Sie in Kommunikation, Gemeinschaftsaufbau und Bildung. Nutzen Sie Tools wie watsonx.governance, um KI-Systeme zu überwachen.
- Erfassen und verwalten Sie den Bestand an KI-Modellen wie oben beschrieben.
- Stellen Sie Cybersicherheitsmaßnahmen für alle Modelle bereit.
IBM steht an vorderster Front bei der Förderung vertrauenswürdiger KI-Prinzipien und ist von Anfang an ein Vordenker bei der Governance von KI-Systemen. Wir folgen den seit langem geltenden Grundsätzen von Vertrauen und Transparenz, die verdeutlichen, dass die Rolle der KI darin besteht, menschliches Fachwissen und Urteilsvermögen zu ergänzen und nicht zu ersetzen.
Im Jahr 2013 hat IBM das Thema Erklärbarkeit und Transparenz in KI und maschinellem Lernen in Angriff genommen. IBM ist führend im Bereich der KI-Ethik, hat 2015 einen globalen KI-Ethik-Experten ernannt und 2018 einen KI-Ethikbeirat ins Leben gerufen. Diese Experten arbeiten daran, sicherzustellen, dass unsere Prinzipien und Verpflichtungen bei unseren globalen geschäftlichen Engagements eingehalten werden. Im Jahr 2020 hat IBM seine Toolkits für verantwortungsvolle KI an die Linux Foundation gespendet, um die Zukunft einer fairen, sicheren und vertrauenswürdigen KI zu gestalten.
IBM steht an der Spitze der weltweiten Bemühungen, die Zukunft einer verantwortungsvollen KI sowie ethischer KI-Metriken, -Standards und -Best-Practices zu gestalten:
- Austausch mit der Regierung von Präsident Biden bei der Entwicklung ihrer KI-Durchführungsverordnung
- Offenlegung/Anmeldung von mehr als 70 Patenten für verantwortungsvolle KI
- Arvind Krishna, CEO von IBM, ist Co-Vorsitzende des Lenkungsausschusses der Global AI Action Alliance, die vom Weltwirtschaftsforum (WEF) ins Leben gerufen wurde.
- Alliance konzentriert sich darauf, die Einführung integrativer, transparenter und vertrauenswürdiger künstlicher Intelligenz weltweit zu beschleunigen
- Co-Autor von zwei vom WEF veröffentlichten Artikeln zum Thema generative KI zur Wertschöpfung und Entwicklung sicherer Systeme und Technologien
- Co-Vorsitzender des Trusted KI Committee Linux Foundation AI
- Beitrag zum NIST KI-Risikomanagement-Framework; Zusammenarbeit mit NIST im Bereich KI-Metriken, Standards und Tests
Verantwortungsvolle KI zu kuratieren ist eine vielschichtige Herausforderung, denn sie erfordert, dass sich menschliche Werte zuverlässig und konsistent in unserer Technologie widerspiegeln. Aber die Mühe lohnt sich. Wir glauben, dass die oben genannten Richtlinien dem Verteidigungsministerium helfen können, vertrauenswürdige KI operativ einzusetzen und seine Mission zu erfüllen.
Weitere Informationen dazu, wie IBM Ihnen helfen kann, finden Sie unter KI-Governance-Beratung | IBM
Weitere Ressourcen: