Was sind AI Agents?

KI-Chatbots verwenden dialogorientierte KI-Techniken wie Natural Language Processing (NLP), um Benutzerfragen zu verstehen und automatisierte Antworten zu geben. Diese Chatbots sind eine Modalität, während die Agenten-Technologie ein technologischer Rahmen ist. 

Nicht-agentenbasierte KI-Chatbots sind Chatbots ohne verfügbare Tools, Speicher und logischem Denken. Sie können nur kurzfristige Ziele erreichen und nicht im Voraus planen. Wie wir sie kennen, benötigen nicht-agentenbasierte Chatbots eine kontinuierliche Benutzereingabe, um zu antworten. Sie können Antworten auf allgemeine Aufforderungen geben, die höchstwahrscheinlich mit den Erwartungen des Benutzers übereinstimmen, schneiden jedoch bei Fragen, die für den Benutzer und seine Daten spezifisch sind, schlecht ab. Da diese Chatbots keinen Speicher haben, können sie nicht aus ihren Fehlern lernen, wenn ihre Antworten unbefriedigend sind.

Im Gegensatz dazu lernen agentenbasierte KI-Chatbots im Laufe der Zeit, sich an die Erwartungen der Benutzer anzupassen und bieten eine personalisierte Erfahrung sowie umfassende Antworten. Sie können komplexe Aufgaben erledigen, indem sie Teilaufgaben ohne menschliches Eingreifen erstellen und verschiedene Pläne in Betracht ziehen. Diese Pläne können bei Bedarf auch selbst korrigiert und aktualisiert werden. Agentenbasierte KI-Chatbots bewerten im Gegensatz zu nicht-agentenbasierten Chatbots ihre Tools und nutzen ihre verfügbaren Ressourcen, um Informationslücken zu schließen. 

Es gibt keine Standardarchitektur für die Erstellung von KI-Agenten. Mehrere Paradigmen existieren zur Lösung mehrstufiger Probleme.

Mit diesem Paradigma können wir Agenten anweisen, nach jeder durchgeführten Aktion und bei jeder Tool-Reaktion „nachzudenken“ und zu planen, um zu entscheiden, welches Tool als nächstes verwendet werden soll. Diese Think-Act-Observe-Schleifen werden verwendet, um Probleme Schritt für Schritt zu lösen und Antworten durch einen iterativen Entscheidungsprozess zu verbessern.

Durch die Struktur des Prompts können die Agenten angewiesen werden, langsam zu denken und jeden „Gedanken“ anzuzeigen.⁴ Das verbale Denken des Agenten vermittelt Erkenntnisse darüber, wie Antworten formuliert werden. In diesem Framework aktualisieren die Agenten ihren Kontext kontinuierlich mit neuen Überlegungen.Dies kann als eine Form des Gedankenketten-Promptings interpretiert werden.

Die ReWOO-Methode eliminiert im Gegensatz zu ReAct die Abhängigkeit von Tool-Outputs für die Maßnahmenplanung. Stattdessen planen die Agenten im Voraus. Die redundante Verwendung von Tools wird vermieden, indem bei der ersten Aufforderung durch den Benutzer vorweggenommen wird, welche Tools verwendet werden sollen. Dies ist aus einer auf den Menschen ausgerichteten Perspektive erwünscht, da der Benutzer den Plan bestätigen kann, bevor er ausgeführt wird.

Der ReWOO-Workflow besteht aus drei Modulen. Im Planungsmodul antizipiert der Agent seine nächsten Schritte anhand der Aufforderung eines Benutzers. Der nächste Schritt besteht darin, die durch den Aufruf dieser Tools erzeugten Outputs zu sammeln. Schließlich koppelt der Agent den ursprünglichen Plan mit den Outputs des Tools, um eine Antwort zu formulieren. Diese vorausschauende Planung kann die Token-Nutzung und die Rechenkomplexität sowie die Auswirkungen eines zwischenzeitlichen Ausfalls des Tools erheblich reduzieren.⁵

AI Agents können so entwickelt werden, dass sie über unterschiedliche Fähigkeitsstufen verfügen. Ein einfacher Agent kann für einfache Ziele bevorzugt werden, um unnötige Rechenkomplexität zu begrenzen. Es gibt 5 Arten von Agents, in der Reihenfolge vom einfachsten bis zum fortgeschrittensten:

Einfache Reflexagenten sind die einfachste Form von Agents, die ihre Handlungen auf die aktuelle Wahrnehmung gründen. Diese Agents haben kein Gedächtnis und interagieren nicht mit anderen Agenten, wenn Informationen fehlen. Sie funktionieren nach einer Reihe von sogenannten Reflexen oder Regeln. Das bedeutet, dass der Agent darauf vorprogrammiert ist, Aktionen auszuführen, die bestimmten Bedingungen entsprechen.

Trifft der Agent auf eine Situation, für die er nicht vorbereitet ist, kann er nicht angemessen reagieren. Die Agenten sind nur in Umgebungen effektiv, die vollständig beobachtbar sind und Zugang zu allen notwendigen Informationen gewähren.⁶

Beispiel: Ein Thermostat, das die Heizung jede Nacht zu einer festgelegten Zeit einschaltet. Die Bedingungs-Aktions-Regel wäre hier: Wenn es 20 Uhr ist, wird die Heizung aktiviert.

Modellbasierte Reflexagenten nutzen sowohl ihre aktuelle Wahrnehmung als auch ihr Gedächtnis, um ein internes Modell der Welt aufrechtzuerhalten. Wenn der Agent neue Informationen erhält, wird das Modell aktualisiert. Die Handlungen des Agenten hängen von seinem Modell, seinen Reflexen, früheren Wahrnehmungen und seinem aktuellen Zustand ab.

Diese Agents können im Gegensatz zu einfachen Reflexagenten Informationen im Gedächtnis ablegen und in teilweise beobachtbaren und sich verändernden Umgebungen operieren. Sie sind jedoch immer noch durch ihre Regeln eingeschränkt.⁶

Beispiel: Ein Roboterstaubsauger. Während er einen schmutzigen Raum reinigt, erkennt er Hindernisse wie Möbel und passt sich diesen an. Der Roboter speichert auch ein Modell der Bereiche, die er bereits gereinigt hat, um nicht in einer Schleife wiederholter Reinigung stecken zu bleiben.

Zielbasierte Agents haben ein internes Modell der Welt und verfügen zudem über ein Ziel oder eine Reihe von Zielen. Diese Agents suchen nach Aktionssequenzen, die ihr Ziel erreichen, und planen diese Aktionen, bevor sie sie ausführen. Diese Suche und Planung verbessern ihre Effektivität im Vergleich zu einfachen und modellbasierten Reflexagenten.⁷

Beispiel: Ein Navigationssystem, das Ihnen den schnellsten Weg zum Ziel empfiehlt. Das Modell berücksichtigt verschiedene Routen, die zu Ihrem Ziel führen. In diesem Beispiel gibt die Bedingungs-Aktions-Regel des Agenten an, dass er die schnellere Route empfiehlt, sobald eine schnellere gefunden wird.

Nutzenbasierte Agents wählen die Abfolge von Aktionen aus, die sowohl das Ziel erreichen als auch den Nutzen oder die Belohnung maximieren. Der Nutzen wird anhand einer Nutzwertfunktion berechnet. Diese Funktion weist jedem Szenario einen Nutzwert zu, der als Metrik die Nützlichkeit einer Handlung oder, vereinfacht gesagt, wie „zufrieden“ der Agent mit dieser Handlung ist, misst.

Zu den Kriterien können Faktoren wie der Fortschritt in Richtung des Ziels, der Zeitaufwand oder die Komplexität der Berechnungen gehören. Der Agent wählt dann die Aktionen aus, die den erwarteten Nutzen maximieren. Solche Agenten sind nützlich, wenn mehrere Szenarien ein gewünschtes Ziel erreichen und das optimale ausgewählt werden muss.⁷

Beispiel: Ein Navigationssystem, das die Route zu Ihrem Ziel optimiert, indem es den Kraftstoffverbrauch minimiert und die Zeit im Verkehr sowie die Kosten für Mautgebühren reduziert. Dieser Agent misst den Nutzen anhand dieser Kriterien, um die günstigste Route auszuwählen.

Lernende Agents verfügen über die gleichen Funktionen wie die anderen Agententypen, zeichnen sich jedoch durch ihre Lernfähigkeit aus. Neue Erfahrungen werden autonom zu ihrer anfänglichen Wissensbasis hinzugefügt. Dieses Lernen verbessert die Fähigkeit des Agenten, in unbekannten Umgebungen zu agieren. Lernende Agenten können sowohl nutzen- als auch zielbasiert in ihrem Denken sein und bestehen aus vier Hauptelementen:⁷

• Lernen: Dies verbessert das Wissen des Agenten, indem er durch seine Vorgaben und Sensoren aus der Umgebung lernt.
• Kritik: Diese Funktion gibt dem Agenten Feedback, ob die Qualität seiner Antworten dem Leistungsstandard entspricht.
• Leistung: Dieses Element ist für die Auswahl von Aktionen basierend auf dem Lernen verantwortlich.
• Problemgenerator: Er erstellt verschiedene Vorschläge für durchzuführende Aktionen.

Beispiel: Personalisierte Produktempfehlungen auf E-Commerce-Websites. Diese Agenten verfolgen die Aktivitäten und Präferenzen der Benutzer in ihrem Speicher. Diese Informationen werden verwendet, um dem Benutzer bestimmte Produkte und Dienstleistungen zu empfehlen. Der Zyklus wiederholt sich jedes Mal, wenn neue Empfehlungen gemacht werden. Die Aktivität des Benutzers wird zu Lernzwecken fortlaufend gespeichert,wodurch sich die Genauigkeit des Agenten im Laufe der Zeit verbessert.

Mit den fortschreitenden Entwicklungen in der generativen KI wächst das Interesse an der Optimierung von Workflows mithilfe von KI, auch als intelligente Automatisierung bekannt. AI Agents sind KI-Tools, die komplexe Aufgaben automatisieren können, die ansonsten menschliche Ressourcen erfordern würden. Dadurch können Ziele kostengünstig, schnell und im großen Maßstab erreicht werden. Diese Fortschritte bedeuten wiederum, dass menschliche Mitarbeiter dem KI-Assistenten keine Anweisungen mehr bei der Erstellung und Ausführung seiner Aufgaben geben müssen.

Multiagenten-Frameworks übertreffen in der Regel einzelne Agenten.11 Das liegt daran, dass mit einer größeren Anzahl an Handlungsplänen die Fähigkeit der Agenten, zu lernen und ihre Vorgehensweise zu „überdenken“, verbessert wird. Ein KI-Agent, der Wissen und Feedback von anderen AI Agents einbezieht, die auf verwandte Bereiche spezialisiert sind, kann für die Informationssynthese nützlich sein. Diese Zusammenarbeit im Backend von AI Agents und die Fähigkeit, Informationslücken zu schließen, sind einzigartig für agentenbasierte Frameworks und machen sie zu einem leistungsstarken Werkzeug und einem bedeutenden Fortschritt in der künstlichen Intelligenz.

AI Agents liefern Antworten, die umfassender, präziser und besser auf den Benutzer zugeschnitten sind als herkömmliche KI-Modelle. Dies ist für uns als Benutzer von großer Bedeutung, da qualitativ hochwertigere Antworten in der Regel zu einer besseren Customer Experience führen. Wie bereits beschrieben, wird dies durch den Austausch von Informationen mit anderen Agenten, die Nutzung externer Tools und die Aktualisierung ihres Gedächtnisses ermöglicht. Diese Verhaltensweisen entwickeln sich von selbst und sind nicht vorprogrammiert.¹²

Komplexe Aufgaben erfordern oft das Wissen mehrerer AI Agents. Beim Einsatz von Multiagenten-Frameworks besteht das Risiko von Fehlfunktionen. Systeme mit mehreren Agenten, die auf denselben Foundation Models aufgebaut sind, können gemeinsame Schwachstellen aufweisen. Solche Schwachstellen könnten zu einem systemweiten Ausfall aller beteiligten Agenten führen oder die Anfälligkeit für schädliche Angriffe erhöhen.¹³ Dies unterstreicht die Bedeutung der Data Governance für die Erstellung von Foundation Models und gründlichen Trainings- und Testprozessen.

Die bequeme, automatische Entscheidungsfindung für menschliche Benutzer unter Verwendung von AI Agents birgt auch Risiken. Agenten, die keinen umfassenden Plan erstellen oder ihre Ergebnisse reflektieren können, könnten wiederholt dieselben Tools aufrufen und in unendlichen Feedback-Schleifen enden. Um diese Redundanzen zu vermeiden, könnte ein gewisses Maß an Echtzeit-Überwachung durch Menschen hilfreich sein.¹³

Die Entwicklung von AI Agents von Grund auf ist sowohl zeitaufwändig als auch sehr rechenintensiv. Die Ressourcen, die zum Training eines leistungsstarken Agenten erforderlich sind, können erheblich sein. Außerdem können die Agenten je nach Komplexität der Aufgabe mehrere Tage für die Erledigung von Aufgaben benötigen.¹²

Um das Problem der Abhängigkeiten zwischen mehreren Agenten zu lösen, können die Entwickler den Benutzern Zugang zu Protokollen der Agenten-Aktionen gewähren.¹⁴ Die Maßnahmen können die Verwendung externer Tools umfassen und die zur Erreichung des Ziels eingesetzten externen Agenten beschreiben. Diese Transparenz gewährt den Benutzern Einblick in den iterativen Entscheidungsprozess, bietet die Möglichkeit, Fehler zu entdecken und fördert Vertrauen.

Es wird empfohlen, zu verhindern, dass die AI Agents über übermäßig lange Zeiträume laufen. Dies gilt insbesondere bei unbeabsichtigten unendlichen Feedbackschleifen, Änderungen beim Zugriff auf bestimmte Tools oder Fehlfunktionen aufgrund von Designfehlern. Eine Möglichkeit, dies zu erreichen, ist die Implementierung von Unterbrechbarkeit.

Die Aufrechterhaltung der Kontrolle erfordert, dass menschliche Benutzer die Möglichkeit haben, eine Abfolge von Aktionen oder den gesamten Vorgang kontrolliert zu unterbrechen. Die Entscheidung, ob und wann ein AI Agent unterbrochen werden soll, erfordert sorgfältiges Vorgehen, da Abbrüche manchmal mehr Schaden als Nutzen anrichten können. Es könnte beispielsweise sicherer sein, einen fehlerhaften Agenten in einem lebensbedrohlichen Notfall weiterlaufen zu lassen, anstatt ihn vollständig abzuschalten.⁵

Um das Risiko zu mindern, dass Agentensysteme für böswillige Zwecke verwendet werden, können eindeutige Identifikatoren verwendet werden.14 Wenn diese Identifikatoren für den Zugriff auf externe Systeme durch Agenten erforderlich wären, ließe sich die Herkunft der Entwickler, Anwender und Benutzer des Agenten leichter zurückverfolgen. Dies wäre besonders hilfreich im Falle einer böswilligen Nutzung oder unbeabsichtigten Schädigung durch den Agenten. Dieses Maß an Rechenschaftspflicht würde eine sicherere Umgebung für den Betrieb dieser AI Agents schaffen.

Um den Lernprozess von AI Agents zu unterstützen, insbesondere in den frühen Phasen in einer neuen Umgebung, kann gelegentliches menschliches Feedback hilfreich sein. Dies ermöglicht es dem AI Agent, seine Leistung mit dem erwarteten Standard zu vergleichen und sich entsprechend anzupassen. Diese Form des Feedbacks verbessert die Anpassungsfähigkeit des Agenten an die Präferenzen des Benutzers.⁵

Darüber hinaus ist es eine bewährte Praxis, die Zustimmung eines Menschen einzuholen, bevor ein AI Agent äußerst schwerwiegende Maßnahmen ergreift. Beispielsweise sollten Aktionen wie das Versenden von Massen-E-Mails oder der Handel mit Finanzprodukten eine menschliche Genehmigung erfordern.⁷ Für solche Bereiche mit hohem Risiko wird ein gewisses Maß an menschlicher Überwachung empfohlen.