Wir bereiten Ihr Unternehmen auf die Skalierung verantwortungsvoller KI vor

Bei der KI-Governance gilt: Was man nicht sieht, kann man nicht steuern. Sichtbarkeit allein ist jedoch nicht sinnvoll, wenn Sie nicht auch die Risiken innerhalb Ihrer KI-Modelle und Systeme verstehen.

Das gilt insbesondere für neue Technologien wie agentische KI. KI-Agenten können die Effizienz verbessern und die Produktivität steigern, aber es ist schwieriger, den vollen Umfang der Risiken zu verstehen, die sie mit sich bringen. „Die Risiken für generative KI und maschinelles Lernen können von vornherein erheblich sein, insbesondere für bestimmte Anwendungsfälle“, schreiben Manish Bhide, Heather Gentile und Jordan Byrd von IBM. „Fügt man KI-Agenten hinzu, und die Risiken werden weiter verstärkt.“  

Unser Whitepaper „KI-Agenten: Chancen, Risiken und Maßnahmen zur Risikominimierung“ bietet eine gründliche Untersuchung der agentenbasierten KI-Risiken und beleuchtet sowohl die Verstärkung bereits bekannter KI-Risiken als auch das Auftreten neuer, einzigartiger Herausforderungen.

Aufbauend auf unseren bisherigen Arbeiten zur Identifizierung von Risiken und Gegenmaßnahmen für Foundation Models, stattet dieses Whitepaper Praktiker mit dem grundlegenden Wissen aus, das sie benötigen, um Risiken zu verstehen, zu identifizieren und zu mindern. Dies ist ein wichtiger erster Schritt zur verantwortungsvollen Skalierung der agentischen KI.

KI-Agenten sind hochgradig autonom und erledigen verschiedene Aufgaben ohne ständige menschliche Aufsicht. Sie besitzen außerdem vier Eigenschaften, die Risiken verursachen können:

·      Undurchsichtigkeit: Eingeschränkte Einblicke in das Innenleben und die Interaktionen eines KI-Agenten können das Verständnis von Aktionen behindern.

·      Offenheit: KI-Agenten können sich selbst Ressourcen, Tools und sogar andere KI-Agenten zur Erledigung von Aufgaben auswählen, wodurch die Wahrscheinlichkeit unerwarteter Aktionen steigt.  

·      Komplexität: Während KI-Agenten lernen und sich anpassen, werden ihre inneren Abläufe komplexer, was die Analyse immer schwieriger macht.

·      Nicht umkehrbar: KI-Agenten, die ohne ständige menschliche Aufsicht agieren, haben eine größere Chance, irreversible Handlungen mit spürbaren Folgen sowohl im digitalen als auch im physischen Bereich durchzuführen.

Die Autonomie und die Eigenschaften von KI-Agenten bergen potenzielle Risiken, Herausforderungen und gesellschaftliche Auswirkungen, die Praktiker verstehen müssen, um agentische KI verantwortungsbewusst zu skalieren.

Agentische KI bringt neue Risiken und Herausforderungen für die KI-Umgebung mit sich, die Experten bei der Konzeption, Entwicklung, Einführung oder Steuerung früherer KI-Systeme eher nicht in Betracht gezogen haben.

Ein neues Risiko besteht beispielsweise aus Datenverzerrungen: Ein KI-Agent könnte einen Datensatz oder eine Datenbank so verändern, dass Verzerrungen entstehen. Hier trifft der KI-Agent eine Entscheidung, die potenziell Auswirkungen auf die Welt hat und unumkehrbar sein könnte, wenn die eingeführte Verzerrung unentdeckt skaliert.

Agentische KI verstärkt auch mehrere bekannte Risikobereiche, darunter die Systembewertung und das Potenzial für unerklärliche oder nicht nachvollziehbare Aktionen. Anwender sollten diese Bereiche bei der Arbeit mit KI-Agenten neu bewerten.

Beispielsweise erhöht ein KI-Agent mit uneingeschränktem Zugriff auf Ressourcen, Datenbanken oder Tools das Risiko, dass sensible oder vertrauliche Informationen mit Benutzern geteilt werden. Ohne angemessene Sicherheitsvorkehrungen könnte ein solcher Agent persönliche Informationen, geistiges Eigentum oder andere vertrauliche Daten speichern und unberechtigterweise mit Systembenutzern teilen. Das Whitepaper beschreibt diese Risiken und Herausforderungen im Detail und erläutert ihre Ursachen und möglichen Auswirkungen.

Die Bewältigung der einzigartigen Risiken und Herausforderungen von KI erfordert einen umfassenden Ansatz zur Risikominderung, der durch eine ganzheitliche KI-Governance umgesetzt wird. Wie IBMs Phaedra Boinodiris und Jon Parker kürzlich erklärten: „Agentische KI entwickelt sich so schnell, dass Unternehmen Schwierigkeiten haben könnten, Präzedenzfälle oder Best Practices zur Minimierung von Schäden zu finden.“

Glücklicherweise können viele Strategien, die bei anderen Arten von KI wie generativer KI und maschinellem Lernen zur Risikominderung beitragen, auch bei der agentischen KI eingesetzt werden. Die Einbindung eines Menschen in den Kreislauf ist zum Beispiel eine Best Practice für verantwortungsvolle KI aller Art. Die Einbeziehung menschlicher Validierung und Feedback zu den von KI-Agenten getroffenen Maßnahmen kann dazu beitragen, Genauigkeit und Relevanz sicherzustellen und die Übereinstimmung mit den Unternehmenswerten zu wahren.  

Die einzigartigen Risiken generativer KI zu verstehen, ist ein entscheidender erster Schritt, um sie unternehmensweit verantwortungsvoll zu skalieren und den ROI verantwortungsvoller KI zu realisieren. „KI-Agenten: Chancen, Risiken und Maßnahmen zur Risikominimierung“ kann Ihnen dabei helfen, die Risikolandschaft durch künstliche Intelligenz besser zu konzeptualisieren und zu überlegen, wie Ihr Unternehmen die immensen Chancen der KI-Agenten verantwortungsvoll nutzen kann.

Lesen Sie KI-Agenten: Chancen, Risiken und Maßnahmen zur Risikominimierung

Erfahren Sie mehr über IBMs Ansatz für verantwortungsvolle KI