Was ist agentische KI?

Im Gegensatz zu herkömmlichen KI-Modellen, die innerhalb vordefinierter Grenzen arbeiten und menschliches Eingreifen erfordern, zeichnet sich die agentische KI durch Autonomie, zielgerichtetes Verhalten und Anpassungsfähigkeit aus. Der Begriff „agentisch“ bezieht sich auf die Handlungsfähigkeit dieser Modelle oder auf ihre Fähigkeit, unabhängig und zielgerichtet zu handeln.

Agentenbasierte Systeme haben viele Vorteile gegenüber ihren generativen Vorgängern, die durch die in den Datensätzen enthaltenen Informationen, auf denen die Modelle basieren, eingeschränkt sind.

Der wichtigste Fortschritt agentenbasierter Systeme besteht darin, dass sie die Autonomie ermöglichen, Aufgaben ohne ständige menschliche Aufsicht auszuführen. Agentenbasierte Systeme können langfristige Ziele verfolgen, mehrstufige Problemlösungsaufgaben bewältigen und den Fortschritt im Laufe der Zeit verfolgen.

Agentenbasierte Systeme bieten die Flexibilität von LLMs, die auf der Grundlage eines nuancierten, kontextabhängigen Verständnisses Reaktionen oder Aktionen generieren können, mit den strukturierten, deterministischen und zuverlässigen Merkmalen der traditionellen Programmierung. Dieser Ansatz ermöglicht es den Agenten, auf eine menschlichere Art und Weise zu „denken“ und zu „handeln“.

LLMs können nicht direkt mit externen Tools oder Datenbanken interagieren oder Systeme zur Überwachung und Erfassung von Daten in Echtzeit einrichten, Agenten hingegen schon. Agenten können im Internet suchen, Programmierschnittstellen (APIs) aufrufen und Datenbanken abfragen und dann diese Informationen nutzen, um Entscheidungen zu treffen und Maßnahmen zu ergreifen.

Agenten können sich auf bestimmte Aufgaben spezialisieren. Einige Agenten sind simpel und führen eine einzige, sich wiederholende Aufgabe zuverlässig aus. Andere können Wahrnehmungen nutzen und auf einen Speicher zurückgreifen, um komplexere Probleme zu lösen. Eine agentische Architektur könnte aus einem „Dirigent“-Modell bestehen, das von einem LLM angetrieben wird, das Aufgaben und Entscheidungen überwacht und andere, einfachere Agenten beaufsichtigt. Solche Architekturen sind ideal für sequenzielle Workflows, aber anfällig für Engpässe. Andere Architekturen sind eher horizontal ausgerichtet, wobei die Agenten dezentral und gleichberechtigt zusammenarbeiten. Diese Architektur kann jedoch langsamer sein als eine vertikale Hierarchie. Unterschiedliche KI-Anwendungen erfordern unterschiedliche Architekturen.

Agenten können aus ihren Erfahrungen lernen, Feedback aufnehmen und ihr Verhalten anpassen. Mit den richtigen Leitplanken können sich Agentensysteme kontinuierlich verbessern. Multiagentensysteme sind skalierbar und können daher auch breit angelegte Initiativen bewältigen.

Da agentenbasierte Systeme von LLMs angetrieben werden, können Benutzer mit ihnen über Prompts in natürlicher Sprache interagieren. Das bedeutet, dass ganze Software-Schnittstellen – denken Sie an die vielen Tabs, Dropdown-Listen, Diagramme, Schieberegler, Pop-ups und andere UI-Elemente, die in der SaaS-Plattform Ihrer Wahl enthalten sind – durch einfache Sprach- oder Sprachbefehle ersetzt werden können. Theoretisch kann jede Software-Benutzererfahrung nun auf das „Gespräch“ mit einem Agenten reduziert werden, der die benötigten Informationen abrufen und auf der Grundlage dieser Informationen Maßnahmen ergreifen kann. Dieser Produktivitätsvorteil kann kaum überbewertet werden, wenn man bedenkt, wie viel Zeit die Mitarbeiter benötigen, um neue Schnittstellen und Tools zu erlernen und zu beherrschen.

Agentische KI-Tools können viele Formen annehmen und verschiedene Frameworks sind für unterschiedliche Probleme besser geeignet. Hier sind jedoch die allgemeinen Schritte aufgeführt, die agentenbasierte Systeme ausführen, um ihre Aufgaben zu erfüllen.

Agentische KI beginnt mit der Erfassung von Daten aus seiner Umgebung über Sensoren, APIs, Datenbanken oder Benutzerinteraktionen. So wird sichergestellt, dass das System über aktuelle Informationen verfügt, die analysiert und genutzt werden können.

Sobald die Daten erfasst sind, verarbeitet die KI sie, um aussagekräftige Erkenntnisse zu gewinnen. Mithilfe Verarbeitung natürlicher Sprache (NLP), Computer Vision oder anderen KI-Fähigkeiten interpretiert sie Benutzeranfragen, erkennt Muster und versteht den breiteren Kontext. Diese Fähigkeit hilft der KI, situationsabhängig zu bestimmen, welche Maßnahmen zu ergreifen sind.

Die KI legt Ziele auf der Grundlage vordefinierter Vorgaben oder Benutzereingaben fest. Anschließend wird eine Strategie zur Erreichung dieser Ziele entwickelt, häufig unter Verwendung von Decision Trees, verstärkendem Lernen oder anderen Planungsalgorithmen.

KI bewertet mehrere mögliche Aktionen und wählt die optimale basierend auf Faktoren wie Effizienz, Genauigkeit und prognostizierten Ergebnissen aus. Es könnte probabilistische Modelle, Nutzenfunktionen oder auf maschinellem Lernen basierende Schlussfolgerungen verwenden, um die beste Vorgehensweise zu bestimmen.

Nach Auswahl einer Aktion führt die KI diese aus, entweder durch Interaktion mit externen Systemen (APIs, Daten, Roboter) oder durch Bereitstellung von Antworten für Benutzer.s

Nach der Ausführung einer Aktion wertet die KI das Ergebnis aus und sammelt Feedback, um zukünftige Entscheidungen zu verbessern. Durch verstärkendes oder selbstüberwachtes Lernen verfeinert die KI ihre Strategien im Laufe der Zeit und kann ähnliche Aufgaben in Zukunft effektiver bewältigen.

KI-Orchestrierung ist die Koordination und Verwaltung von Systemen und Agenten. Orchestrierungsplattformen automatisieren KI-Workflows, verfolgen den Fortschritt bei der Aufgabenbearbeitung, verwalten die Ressourcennutzung, überwachen den Datenfluss und den Speicher und behandeln Fehlerereignisse. Mit der richtigen Architektur könnten theoretisch Dutzende, Hunderte oder sogar Tausende von Agenten harmonisch und produktiv zusammenarbeiten.

Agentische KI-Lösungen können für praktisch jeden KI-Anwendungsfall in jedem realen Ökosystem bereitgestellt werden. Agenten können in komplexe Workflows integriert werden, um Geschäftsprozesse autonom auszuführen.

• Ein KI-gestützter Trading-Bot kann Aktienkurse und Wirtschaftsindikatoren in Echtzeit analysieren, um prädiktive Analysen durchzuführen und Trades auszuführen.
   

• In autonomen Fahrzeugen können Echtzeit-Datenquellen wie GPS und Sensordaten die Navigation und Sicherheit verbessern.
   

• Im Gesundheitswesen können Agenten Patientendaten überwachen, Behandlungsempfehlungen auf der Grundlage neuer Testergebnisse anpassen und Klinikern über Chatbots in Echtzeit Feedback geben.
   

• Im Bereich der Cybersicherheit können Agenten den Netzwerkverkehr, Systemprotokolle und das Benutzerverhalten kontinuierlich auf Anomalien überwachen, die auf Schwachstellen für Malware, Phishing-Angriffe oder nicht autorisierte Zugriffsversuche hinweisen könnten.
   

• KI kann das Lieferkettenmanagement durch Prozessautomatisierung und -optimierung optimieren, indem sie selbstständig Bestellungen bei Lieferanten aufgibt oder Produktionspläne anpasst, um optimale Lagerbestände aufrechtzuerhalten.

Agentische KI-Systeme bergen ein enormes Potenzial für Unternehmen. Ihre Autonomie ist ihr Hauptvorteil, aber diese autonome Natur kann schwerwiegende Folgen haben, wenn die agentenbasierten Systeme „aus den Fugen geraten“. Es gelten die üblichen KI-Risiken, die sich jedoch in Agentensystemen noch verstärken können.

Viele agentische KI-Systeme nutzen das bestärkende Lernen, bei dem eine Belohnungsfunktion maximiert wird. Wenn das Belohnungssystem schlecht konzipiert ist, könnte die KI Schlupflöcher ausnutzen, um auf unbeabsichtigte Weise „hohe Punktzahlen“ zu erreichen.

Hier sind einige Beispiele:

• Ein Agent, der mit der Steigerung des Engagements in den sozialen Medien beauftragt ist und reißerische oder irreführende Inhalte priorisiert, wodurch versehentlich Fehlinformationen verbreitet werden.
   

• Ein Lagerroboter, der auf Geschwindigkeit optimiert ist und Produkte beschädigt, um schneller zu werden.
   

• Eine KI für den Finanzhandel, die darauf abzielt, Gewinne zu maximieren, und die riskante oder unethische Handelspraktiken anwendet, was zu Marktinstabilität führt.
   

• Eine KI zur Moderation von Inhalten, die darauf ausgelegt ist, schädliche Äußerungen zu reduzieren, zensiert legitime Diskussionen.

Einige agentische KI-Systeme können sich selbst verstärken und ihr Verhalten in eine unbeabsichtigte Richtung eskalieren. Dieses Problem tritt auf, wenn die KI ohne Sicherheitsvorkehrungen zu aggressiv für eine bestimmte Metrik optimiert. Und da agentenbasierte Systeme oft aus mehreren autonomen Agenten bestehen, die zusammenarbeiten, besteht die Möglichkeit, dass sie versagen. Staus, Engpässe, Ressourcenkonflikte – all diese Fehler können sich potenziell kaskadenartig auswirken. Modelle müssen klar definierte Ziele haben, die messbar sind, und über Feedbackschleifen verfügen, damit sie sich im Laufe der Zeit immer mehr den Absichten des Unternehmens annähern können.

Agentische AI baut auf Techniken der generativen KI GenAI) auf und verwendet Large Language Models (LLMs), um in dynamischen Umgebungen zu funktionieren. Während sich generative Modelle auf die Erstellung von Inhalten auf der Grundlage erlernter Muster konzentrieren, erweitert die agentische KI diese Fähigkeit, indem sie generative Ergebnisse auf spezifische Ziele anwendet. Ein generatives KI-Modell wie ChatGPT von OpenAI kann zwar Text, Bilder oder Code erzeugen, aber ein agierendes KI-System kann diese generierten Inhalte nutzen, um komplexe Aufgaben autonom zu erledigen, indem es externe Tools aufruft. Reisebüromitarbeiter können Ihnen beispielsweise nicht nur sagen, wann Sie den Mt. Everest am besten besteigen können, wenn man Ihren Terminkalender berücksichtigt, sondern auch einen Flug und ein Hotel buchen.

Die Messung des ROI (Return on Investment) von agentischen Initiativen erfordert einen Framework, der die Gesamtkosten für Entwicklung und Implementierung mit den Nutzen wie Effizienzsteigerungen und Umsatzwachstum vergleicht. Das kann schwierig sein, da Vorteile oft indirekt, abstrakt sind und kurzfristig nicht eintreten. 

Es hängt vom Agententyp ab, aber die Behebung eines festgefahrenen KI-Agenten besteht typischerweise darin, den blockierten Prozess zu beenden, den Speicher oder Kontext des Agenten zu löschen und die Promptanweisungen zu verfeinern, um zu verhindern, dass der Agent in logischen Schleifen stecken bleibt.

Der Prozess erfordert die Identifizierung spezifischer, sich wiederholender Workflows, die ideal für Automatisierung geeignet sind, das Einrichten sicherer API-Verbindungen und den Start eines Pilotprogramms mit KI-Agenten-Frameworks.  Die eindeutige Agentenidentität, die von Plattformen wie IBM Verify bereitgestellt wird, ist nützlich, um die Sicherheitsrisiken der Integration zu minimieren. 

Vollständige Transparenz in agentischer KI ist aufgrund der komplexen Funktionsweise der Modelle schwer zu erreichen, aber ein gewisses Maß an Transparenz gilt oft als architektonische Voraussetzung für eine sichere und effektive Bereitstellung in Unternehmenskontexten. Ein IBM Technology Summit mit Schwerpunkt auf Agent Ops und verantwortungsvolle KI befasste sich mit den Herausforderungen in den Bereichen Betrieb, Risiko und Governance, die durch KI-Agenten entstehen.