KI-Agenten-Frameworks: Die Wahl der richtigen Grundlage für Ihr Unternehmen

KI-Agenten sind Programme, die selbstständig eine Aufgabe im Auftrag eines Benutzers ausführen können. Diese KI-Systeme entwickeln zunächst einen Plan mit einer Reihe von Schritten zur Durchführung einer komplexen Aufgabe.

Dann nutzen sie Funktionsaufrufe für die Verbindung zu externen Tools, z. B. Anwendungsprogrammierschnittstellen (APIs), Datenquellen, Websuchen und sogar anderen KI-Agenten, die beim Schließen ihrer Wissenslücken helfen können.

Nach der Ausführung ihres Aktionsplans lernen autonome Agenten aus Feedback und speichern gelernte Informationen im Gedächtnis, um die zukünftige Leistung zu verbessern.

Unternehmen können KI-Agenten von Grund auf neu entwickeln, indem sie Programmiersprachen wie Python oder JavaScript verwenden. Ein schnellerer, besser skalierbarer Ansatz ist jedoch die Verwendung von KI-Agent-Frameworks.

Agentenbasierte Frameworks sind die Bausteine für die Entwicklung, Bereitstellung und Verwaltung von KI-Agenten. Diese Softwareplattformen verfügen über integrierte Features und Funktionen zur Optimierung und Beschleunigung des Prozesses. Dazu gehören:

• Eine vordefinierte Architektur, die Struktur, Eigenschaften und Funktionen agentischer KI beschreibt.

• Kommunikationsprotokolle, die Interaktion zwischen KI-Agenten und menschlichen Benutzern oder anderen Agenten erleichtern.

• Aufgabenmanagementsysteme zur Koordination von Aufgaben.

• Integrationstools für den Funktionsaufruf.

• Überwachungstools zur Verfolgung der agentischen KI-Leistung.

Bevor Sie in die Welt der KI-Agenten eintauchen, sollten Sie sich über die Ziele und Anwendungsfälle Ihres Unternehmens Gedanken machen. Der ideale Framework schafft ein Gleichgewicht zwischen Ihren technischen Funktionen, Ihren kurzfristigen Anforderungen und Ihren langfristigen Zielen.

Hier sind einige Aspekte, die Sie bei der Auswahl eines KI-Agenten-Frameworks berücksichtigen sollten:

• Komplexität

• Datenschutz und -sicherheit

• Bedienungskomfort

• Nahtlose Integration

• Leistung und Skalierbarkeit

Identifizieren Sie, welche Aufgaben ein KI-Agent ausführen soll und wie komplex diese Aufgaben sind. Entscheiden Sie, ob Sie eine einfache Implementierung mit nur einem einzigen Agent oder einem Multiagenten-Ökosystem benötigen.

Für Umgebungen mit mehreren Agenten können Sie festlegen, welche Interaktionen mit Agenten erforderlich sind und wo menschliches Eingreifen noch notwendig ist.

Im Bereich des Kundensupports kann ein einziger KI-Agent beispielsweise bei der Klassifizierung des Schweregrads der eingehenden Probleme helfen. Streben Sie jedoch einen robusteren Workflow an, empfiehlt sich die Erstellung eines Multiagentensystems mit verschiedenen Agenten, die Probleme beheben, Korrekturen vorschlagen und komplizierte Fälle an andere KI- oder menschliche Agenten weiterleiten.

Bei der Auswahl eines agentenbasierten Frameworks müssen Datenschutz und Sicherheit an erster Stelle stehen. Überprüfen Sie die Sicherheitsrichtlinien und -maßnahmen des von Ihnen gewählten Frameworks, einschließlich der Verschlüsselung von Daten im Ruhezustand und bei der Übertragung, der Zugangskontrollen und der Entfernung sensibler Informationen.

Berücksichtigen Sie das Qualifikationsniveau Ihres Entwicklungsteams. Ein einsteigerfreundliches KI-Framework wie CrewAI verfügt beispielsweise über eine No-Code-Schnittstelle für schnelles Prototyping und fertige KI-Agentenvorlagen für eine schnelle Bereitstellung.

Erfahrene KI-Entwickler könnten sich für fortgeschrittene Agent-Frameworks wie LangGraph entscheiden, die Low-Level-Kontrolle und anpassbare Codeoptionen bieten.

Bewerten Sie agentische KI-Frameworks auf der Grundlage ihrer Kompatibilität mit Ihrem vorhandenen Tech Stack. Prüfen Sie, wie gut sich das von Ihnen gewählte Framework mit Ihren aktuellen Datenquellen, Ihrer Infrastruktur und Ihren Tools integrieren lässt.

Überlegen Sie, wie agentische KI in Ihrer Umgebung eingesetzt werden soll – sei es On-Premises oder in der Cloud – und ob eine Bereitstellung im kleinen oder großen Maßstab erforderlich ist.

Bewerten Sie die Leistung des von Ihnen gewählten KI-Agent-Frameworks. Denken Sie an die Antwortzeit oder Latenz bei Anwendungen in Echzeit und beurteilen Sie, ob die Leistung bei der Verarbeitung großer Datenmengen oder mehrerer gleichzeitiger Anfragen abnimmt. Auch wenn der Fokus auf der kurzfristigen Ebene liegt, sollten Sie darüber nachdenken, wie sich das Framework mit dem Wachstum Ihres Unternehmens skalieren lässt.

Die agentische KI befindet sich noch in den Anfängen. In dem Maße, wie sich die Technologie hinter KI-Agenten weiterentwickelt, werden auch die ihnen zugrunde liegenden Frameworks weiterentwickelt. Hier sind einige derzeit beliebte KI-Agent-Frameworks:

AutoGen ist ein Open-Source-Framework von Microsoft zur Erstellung multiagenter KI-Anwendungen für die Durchführung komplexer Aufgaben. Die Architektur besteht aus 3 Ebenen:

• Core ist ein Framework für die Entwicklung eines skalierbaren und verteilten Netzwerks von Agenten mit Tools zum Verfolgen und Debuggen von Agent-Workflows. Es verwendet asynchrones Messaging und unterstützt sowohl Anfrage-Antwort- als auch ereignisgesteuerte Agenteninteraktionen.

• AgentChat basiert auf Core und kann zum Erstellen von dialogorientierten KI-Assistenten verwendet werden. Es ist der empfohlene Ausgangspunkt für Anfänger und bietet standardmäßige Einzelagenten und Teams aus mehreren Agenten mit vordefinierten Verhaltensweisen und Interaktionsmustern.

• Extensions ist ein Paket, das Implementierungen von Core- und AgentChat-Komponenten enthält, um deren Funktionen und Schnittstellen zu externen Bibliotheken und anderen Diensten weiter zu erweitern. Sie können integrierte Erweiterungen und solche, die von der AutoGen-Community entwickelt wurden, verwenden oder sogar eigene Erweiterungen erstellen.

AutoGen bietet außerdem zwei praktische Developer Tools: AutoGen Bench zum Bewerten und Benchmarking der agentischen KI-Leistung und AutoGen Studio für eine No-Code-Schnittstelle zur Entwicklung von Agenten. AutoGen ist auf GitHub verfügbar.

CrewAI ist ein Orchestrierungs-Framework für Multiagenten-KI-Lösungen. Wie AutoGen ist auch CrewAI Open Source.

Die rollenbasierte Architektur von CrewAI behandelt agentische KI als eine „Crew“ von „Mitarbeitern“. Hier sind die Kernkomponenten einer Crew:

• Den Agenten werden spezialisierte Rollen zugewiesen, während sie weiterhin an komplexen Workflows zusammenarbeiten. Entwickler können natürliche Sprache verwenden, um die Rolle, das Ziel und die Hintergrundgeschichte eines Agenten zu beschreiben.

• Aufgaben definieren die spezifischen Verantwortlichkeiten jedes Agenten. Entwickler können auch natürliche Sprache verwenden, um die Aufgabe und die erwartete Ausgabe für jeden Agenten zu beschreiben.

• Ein Prozess legt fest, wie Agenten zusammenarbeiten und wie Aufgaben ausgeführt werden. Sie kann entweder sequentiell erfolgen, wobei die Aufgaben in einer voreingestellten Reihenfolge erledigt werden, oder hierarchisch, wobei ein benutzerdefinierter Manager-Agent die Delegation, Ausführung und den Abschluss der Aufgaben überwacht.

Eines der Beispiele von CrewAI umfasst ein Börsenanalyse-Team. Dieses Team arbeitet nacheinander mit einem Marktanalysten zusammen, der die Daten für eine bestimmte Aktie analysiert, einem Researcher, der unterstützende Informationen zur Validierung der Datenanalyse erhebt, und einem Strategie-Agenten, der auf der Grundlage der Analyse und der unterstützenden Daten einen schrittweisen Aktionsplan erstellt, um die Datenanalyse zu validieren.

CrewAI unterstützt Verbindungen zu verschiedenen großen Sprachmodellen (LLMs), darunter Claude von Anthropic, Gemini von Google, die KI-Modelle von Mistral , die GPT-Modelle von OpenAI und die Foundation Models in IBM watsonx.ai.

Das Framework verfügt außerdem über eine Suite von Retrieval-Augmented Generation (RAG) –Tools zur Suche in verschiedenen Datenquellen.

CrewAI ist auf GitHub verfügbar.

LangChain ist ein weiteres Open-Source-Framework für die Erstellung LLM-basierter Anwendungen, darunter Chatbots wie ChatGPT und KI-Agenten.

Es verwendet eine modulare Architektur, wobei jedes Modul Abstraktionen darstellt, die die komplexen Konzepte und Schritte enthalten, die für die Arbeit mit LLMs erforderlich sind.

Diese modularen Komponenten können dann zur Erstellung von KI-Anwendungen miteinander verbunden werden.

LangChain ist für die Entwicklung einfacher KI-Agenten mit unkomplizierten Workflows nützlich. Es unterstützt Vektordatenbanken und Dienstprogramme für die Integration von Speicher in Anwendungen, wodurch Verlauf und Kontext erhalten bleiben.

Die LangSmith-Plattform ermöglicht Debugging, Tests und Leistungsüberwachung.

LangChain ist auf GitHub verfügbar.

LangGraph ist in das LangChain-Ökosystem integriert. Das Framework zeichnet sich durch die Orchestrierung komplexer Workflows für Multiagentensysteme aus.

Es wendet eine Graphenarchitektur an, in der die spezifischen Aufgaben oder Aktionen von KI-Agenten als Knoten dargestellt werden, während die Übergänge zwischen diesen Aktionen als Kanten dargestellt werden.

Eine Zustandskomponente pflegt die Aufgabenliste über alle Interaktionen hinweg. Diese Art von Architektur eignet sich für zyklische, bedingte oder nicht lineare Workflows.

Eine Fluggesellschaft könnte zum Beispiel einen Reiseassistenten als KI-Agent entwickeln, der Benutzern bei der Suche und Buchung von Flügen hilft. Mit LangGraph wird jede dieser Aktionen als Knoten dargestellt. Diese Knoten können mehrere Agenten aufweisen, die bestimmte Aufgaben ausführen.

Ein manueller Schritt kann hinzugefügt werden, sodass die Benutzer einen Flug aus der Suchliste auswählen können. Ist der passende Flug nicht dabei, kann der Reiseassistent einfach zum Knoten „Flüge finden“ zurückkehren und die Suche wiederholen.

LangGraph ist auf GitHub verfügbar.

LlamaIndex ist ein Open-Source-Framework zur Datenorchestrierung für die Entwicklung von Lösungen für generative KI (genAI) und agentische KI. Es bietet vorkonfigurierte Agenten und Tools sowie kürzlich eingeführte Workflows, einen Mechanismus zur Entwicklung von Multiagentensystemen.

Hier sind die Hauptelemente, aus denen ein Workflow in LlamaIndex besteht:

• Schritte sind die spezifischen Aktionen eines Agenten. Hierbei handelt es sich um die grundlegenden Komponenten eines Workflows.

• Ereignisse lösen Schritte aus und sind das Mittel, mit dem Schritte kommunizieren.

• Der Kontext wird im gesamten Workflow gemeinsam genutzt, sodass die Schritte Daten speichern, abrufen und weitergeben und den Status während der gesamten Ausführung beibehalten können.

Diese ereignisgestützte Architektur ermöglicht die asynchrone Ausführung von Workflow-Schritten. Das bedeutet, dass im Gegensatz zu einer Graphenarchitektur die Pfade zwischen den Schritten nicht definiert werden müssen, sodass flexiblere Übergänge zwischen Agentenaktionen möglich sind.

Daher sind LlamaIndex-Workflows gut für dynamischere KI-Agenten-Anwendungen geeignet, die häufig zu vorherigen Schritten zurückkehren oder zu mehreren Schritten übergehen müssen.

LlamaIndex ist auf GitHub verfügbar.

Semantischer Kernell ist ein Open-Source-Entwicklungskit von Microsoft für die Erstellung generativer KI-Anwendungen der Unternehmensklasse. Das Agent-Framework, das derzeit als experimentell gekennzeichnet ist, bietet Kernabstraktionen für die Erstellung von Agenten.

Es verfügt über 2 integrierte Agentenimplementierungen: einen Chat-Abschlussagenten und einen erweiterten Assistentenagenten.

Mehrere Agenten können über Gruppenchats oder durch die Verwendung des Prozess-Frameworks von semantischen Kernels (auch als experimentell gekennzeichnet) für komplexere Workflows orchestriert werden.

Ein Prozess besteht aus Schritten, die den KI-Agenten zugewiesenen Aufgaben darstellen und den Datenfluss zwischen den Schritten beschreiben.

Der Zugriff auf semantische Kernel ist auf GitHub möglich.

Für eine fundiertere Entscheidungsfindung sollten Sie mit Ihren bevorzugten Frameworks experimentieren. Beginnen Sie mit einer einfachen Single-Agent-Implementierung, um zu testen, wie jedes Framework funktioniert und wie es im Vergleich zu anderen Frameworks abschneidet.

Das richtige Framework ist auf die Anforderungen Ihres Unternehmens abgestimmt und kann bei der Entwicklung von KI-Agenten helfen, die Workflows automatisieren und so zu effizienteren Geschäftsprozessen führen.