Wo anfangen? Drei IBM-Führungskräfte unterstützen neu ernannte Chief AI Officer

Die Zahl der Chief Artificial Intelligence Officers (CAIOs) hat sich laut LinkedIn in den letzten fünf Jahren fast verdreifacht. Unternehmen aller Branchen erkennen, dass sie künstliche Intelligenz (KI) von der Spitze an in ihre Strategien integrieren müssen, um nicht ins Hintertreffen zu geraten. Diese führenden Köpfe im Bereich der KI sind dafür verantwortlich, einen Blueprint für die Einführung und Überwachung von KI sowohl in Unternehmen als auch in der Regierung zu entwickeln.

Infolge einer kürzlich erlassenen Executive Order der Biden-Regierung und einem kometenhaften Anstieg der KI-Akzeptanz in verschiedenen Sektoren veröffentlichte das Office of Management and Budget (OMB) ein Memo darüber, wie Bundesbehörden die Chancen von KI nutzen und gleichzeitig deren Risiken managen können.

Viele Bundesbehörden ernennen CAIOs, die den Einsatz von KI in ihren Bereichen beaufsichtigen, verantwortungsvolle KI-Innovationen fördern und Risiken im Zusammenhang mit KI, einschließlich generativer KI (genAI), unter dem Aspekt ihrer Folgen für die Bevölkerung angehen. Aber wie werden diese CAIOs regulatorische Maßnahmen und Innovation in Einklang bringen? Wie werden sie Vertrauen aufbauen?

Drei IBM Führungskräfte geben Einblicke in die bedeutenden Chancen und Herausforderungen, denen sich neue CAIOs in den ersten 90 Tagen gegenübersehen:

Die ersten 90 Tage als Chief AI Officer werden intensiv sein und schnell vergehen, aber Sie sollten es trotzdem langsam angehen lassen und keine Abkürzungen nehmen. Berücksichtigen Sie Sicherheit, Inklusivität, Vertrauenswürdigkeit und Governance von Anfang an und nicht als Überlegungen, die am Ende angehängt werden. Aber lassen Sie nicht zu, dass die Vorsicht und kritische Perspektive Ihres inneren Agenten für sozialen Wandel den Optimismus Ihres inneren Technologen auslöschen. Denken Sie daran, dass Ihre Behörde nicht von ihrer Verantwortung gegenüber den Menschen entbunden ist, nur weil sie jetzt KI nutzen. Berücksichtigen Sie die vulnerabelsten Menschen, wenn Sie das Problem beschreiben, die Daten verstehen und die Lösung bewerten.

Scheuen Sie sich nicht, Fairness neu zu definieren, indem Sie begrenzte Ressourcen einfach gerecht aufteilen, um herauszufinden, wie Sie sich um die Bedürftigsten kümmern können. Scheuen Sie sich nicht, Verantwortlichkeit neu zu definieren – von der bloßen Einhaltung von Vorschriften hin zur verantwortungsvollen Nutzung der Technologie. Scheuen Sie sich nicht, Transparenz neu zu definieren – weg von der bloßen Dokumentation getroffener Entscheidungen im Nachhinein hin zur Einholung öffentlicher Meinungen im Vorfeld.

Genau wie die Stadtplanung ist auch KI eine Infrastruktur. Entscheidungen, die jetzt getroffen werden, können sich auf zukünftige Generationen auswirken. Lassen Sie sich vom Prinzip der siebten Generation leiten, aber geben Sie nicht den Argumenten bezüglich langfristiger existenzieller Risiken nach, wenn dadurch klare und unmittelbare Schäden in Kauf genommen werden müssen. Behalten Sie die Schäden im Auge, denen wir über mehrere Jahre hinweg durch traditionelle ML-Modelle begegnet sind, sowie die neuen und verstärkten Schäden durch vortrainierte Foundation Models. Wählen Sie kleinere Modelle, deren Kosten und Verhalten gesteuert werden können. Pilotieren und innovieren Sie mit einem Projektportfolio; verwenden Sie Lösungen für häufig auftretende Muster wieder und festigen Sie sie; und liefern Sie erst dann in großem Maßstab durch einen multimodalen Plattformansatz.

Um Effizienz und Innovation zu steigern und Vertrauen aufzubauen, sollten alle CAIOs mit der Umsetzung eines KI-Governance-Programms beginnen, das hilft, die ethischen, sozialen und technischen Fragen anzugehen, die für eine vertrauenswürdige KI-Entwicklung und -Bereitstellung zentral sind.

Beginnen Sie in den ersten 90 Tagen mit einer Bewertung der organisatorischen Reife Ihrer Behörde. Überprüfen Sie Frameworks und Bewertungsinstrumente, damit Sie eine klare Vorstellung von den Stärken und Schwächen haben, die sich auf Ihre Fähigkeit zur Implementierung von KI-Tools und zur Bewältigung der damit verbundenen Risiken auswirken. Dieser Prozess kann Ihnen dabei helfen, ein Problem oder eine Chance zu identifizieren, die mit einer KI-Lösung angegangen werden kann.

Neben den technischen Anforderungen müssen Sie auch die behördenweiten ethischen Grundsätze und Werte in Bezug auf die Entwicklung und Nutzung von KI dokumentieren und formulieren, die Ihre Entscheidungen in Hinblick auf Risiken beeinflussen. Diese Richtlinien sollten Themen wie Datenschutz, Verzerrung, Transparenz, Verantwortlichkeit und Sicherheit behandeln.

IBM hat Vertrauens- und Transparenzprinzipien sowie das „Ethics by Design“-Playbook entwickelt, das Ihnen und Ihrem Team helfen kann, diese Prinzipien zu operationalisieren. Richten Sie als Teil dieses Prozesses Rechenschafts- und Aufsichtsmechanismen ein, um sicherzustellen, dass das KI-System verantwortungsbewusst und ethisch eingesetzt wird. Dies umfasst die Festlegung klarer Verantwortlichkeiten und Kontrollmechanismen sowie die Überwachung und Prüfung von Prozessen, um die Einhaltung ethischer Richtlinien sicherzustellen.

Als Nächstes sollten Sie damit beginnen, die bestehenden Governance-Strukturen Ihrer Behörde so anzupassen, dass sie die KI zu unterstützen. Hochwertige KI erfordert hochwertige Daten. Viele Ihrer bestehenden Programme und Praktiken – wie z. B. Risikomanagement für Dritte, Beschaffung, Unternehmensarchitektur, Recht, Datenschutz und Informationssicherheit – überschneiden sich wahrscheinlich bereits, um die Effizienz zu steigern und die vollen Möglichkeiten Ihrer Teams zu nutzen.

 Die Frist zum 1. Dezember 2024, um die Mindestrisikomanagementpraktiken in sicherheits- und rechtsrelevante KI-Systeme zu integrieren oder die Nutzung der KI bis zur Erfüllung der Anforderungen einzustellen, wird schneller kommen, als Sie denken. Profitieren Sie in den ersten 90 Tagen Ihrer Tätigkeit von automatisierten Tools, um den Prozess zu optimieren, und wenden Sie sich an vertrauenswürdige Partner wie IBM, die Ihnen bei der Umsetzung der Strategien helfen, die Sie für die Entwicklung verantwortungsvoller KI-Lösungen benötigen.

Seit über einem Jahrzehnt arbeitet IBM mit US-Bundesbehörden zusammen, um sie bei der Entwicklung von KI zu unterstützen. Diese Technologie hat vielen Bundesbehörden wichtige Fortschritte in Bezug auf betriebliche Effizienz, Produktivität und Entscheidungsfindung ermöglicht. So hat KI beispielsweise dem Internal Revenue Service (IRS) geholfen, die Bearbeitung von Steuererklärungen in Papierform (und die Auslieferung von Steuerrückzahlungen an die Bürger) zu beschleunigen, dem Department of Veterans Affairs (VA), die Zeit für die Bearbeitung von Veteranenanträgen zu verkürzen, und dem Fleet Forces Command der Navy, die Nahrungsmittellieferungen besser zu planen und auszugleichen und gleichzeitig die damit verbundenen Risiken in der Lieferkette zu verringern. 

IBM ist sich der potenziellen Risiken der KI-Einführung seit langem bewusst und setzt sich für eine starke Governance und für eine KI ein, die transparent, erklärbar, zuverlässig, fair und sicher ist. Um Risiken zu minimieren, die Implementierung zu vereinfachen und Chancen zu nutzen, sollten alle neu ernannten CAIOs einen unternehmensweiten Datenansatz und ein Framework für die Einführung von KI festlegen. Datenzugänglichkeit, Datenvolumen und Datenkomplexität sind allesamt Bereiche, die verstanden und berücksichtigt werden müssen. „Unternehmensweit“ legt nahe, dass die Entwicklung und die Bereitstellung von KI und Data Governance aus den traditionellen Silos der Behörden herausgeführt werden müssen. Beziehen Sie Stakeholder aus Ihrer gesamten Behörde sowie alle Branchenpartner ein. Messen Sie Ihre Ergebnisse und lernen Sie dabei – sowohl aus den Bemühungen Ihrer Behörde als auch aus denen Ihrer Kollegen in der gesamten Regierung.

Und schließlich ist die alte Weisheit „Beginne mit dem Ende im Kopf“ heute so wahr wie eh und je. IBM empfiehlt CAIOs, einen anwendungsfallorientierten Ansatz für KI zu verfolgen – das heißt, die angestrebten Ergebnisse und Erfahrungen zu identifizieren und darauf aufbauend die spezifischen KI-Technologien auszuwählen, die Sie einsetzen werden (generative KI, traditionelle KI usw.).

Die öffentliche Hand kann den Ton für die Einführung von KI in allen Sektoren angeben. Die Schaffung der CAIO-Position spielt eine kritische Rolle für die Zukunft der KI, da sie es der Regierung ermöglicht, einen verantwortungsvollen Ansatz für die KI-Einführung in Unternehmen, Regierung und Branchen zu entwickeln.

IBM hat Tools und Strategien entwickelt, die Behörden dabei helfen, KI effizient und verantwortungsvoll in verschiedenen Umgebungen einzusetzen. Wir sind bereit, die neuen CAIOs bei der Entwicklung ethischer und verantwortungsvoller KI-Implementierungen in ihren Behörden zu unterstützen.

Fragen Sie sich, was Sie auf Ihrer KI-Reise priorisieren sollten?