Was ist eine Agenten-Steuerungsebene?

Jeder einzelne Agent arbeitet in der „Datenebene“, wo er Aufgaben ausführt und mit Tools interagiert. Die Steuerungsebene befindet sich über dieser Ebene als zentrale Kontrollstelle und legt fest, wie Agenten eingesetzt werden, wie sie zusammenarbeiten und welche Regeln ihr Verhalten bestimmen. Anstatt sich darauf zu konzentrieren, wie sich ein einzelner Agent verhält, konzentriert sich die Kontrollebene darauf, wie mehrere Agenten als Teil eines größeren künstlichen Intelligenzsystems funktionieren.

In einer aktuellen Studie des IBM Institute for Business Value gaben 96 % der Unternehmen an, dass sie KI-Agenten bereits in irgendeiner Form einsetzen. Da KI-Agenten in verschiedenen Teams und Anwendungsfällen eingesetzt werden, ist Fragmentierung von Anfang an vorhanden. Agenten werden häufig mit unterschiedlichen Frameworks erstellt, sind mit separaten Datenquellen verbunden und unterliegen inkonsistenten Regeln. Die Steuerungsebene bietet eine gemeinsame Möglichkeit, diese Aktivitäten zu koordinieren und zu überwachen, so dass Unternehmen ihre Agenten bei der Skalierung konsistent verwalten können.

In der Praxis fungiert die Steuerungsebene als Vermittler zwischen den Agenten und den Systemen, von denen sie abhängen. Sie leitet Anfragen weiter, setzt Berechtigungen durch und wendet Richtlinien an, bevor Aktionen ausgeführt werden. Sie bietet außerdem Einblick in das Verhalten der Agenten in der Produktion, einschließlich ihrer Leistung, Nutzung und Ergebnissen.

Dieser Ansatz ermöglicht es, Agenten als koordiniertes System und nicht als Ansammlung isolierter Komponenten zu betreiben. Teams können einheitliche Richtlinien anwenden, den Zugriff auf Tools und Daten kontrollieren und das Verhalten der Agenten im Laufe der Zeit überwachen. In KI-Umgebungen von Unternehmen unterstützt diese Struktur umfassendere agentische KI-Ökosysteme, in denen mehrere KI-Systeme interagieren. Die Steuerungsebene unterstützt auch Iterationen, indem sie Versionierung, Tests und kontrollierte Bereitstellung von Agenten während ihrer Weiterentwicklung ermöglicht.

Es ist sinnvoll, eine Agentensteuerungsebene von einem Modellkontextprotokoll (Model Context Protocol, MCP) zu unterscheiden, da sie auf unterschiedlichen Ebenen arbeiten:

• Ein Agenten-Steuerungsebene orchestriert und regelt die Koordination, Kontrolle und das Lebenszyklusmanagement auf Systemebene zwischen Agenten und Diensten.
• Ein MCP definiert, wie Kontext, Tools und Daten während einer einzelnen Interaktion strukturiert und in ein Modell übergeben werden.

Die Steuerungsebene konzentriert sich darauf, wie Agenten innerhalb eines größeren Systems agieren, während sich MCP darauf konzentriert, wie ein Modell eine spezifische Anfrage verarbeitet.

Entwickler nutzen es, um Agenten-Workflows zu erstellen und zu testen. Plattformteams nutzen es zur Verwaltung der Infrastruktur und zur Durchsetzung von Standards. Geschäfts- und Betriebsteams nutzen es zur Unterstützung von Compliance, Sicherheit und Verantwortlichkeit.

Eine Agentensteuerungsebene bildet die Grundlage für den strukturierten und skalierbaren Betrieb von Agenten. Es ermöglicht die Koordination zwischen verschiedenen Systemen, gewährleistet eine einheitliche Kontrolle und macht das Verhalten der Agenten im Laufe der Zeit beobachtbar und steuerbar.

Agentensteuerungsebenen prägen die Organisation und Durchführung von Arbeit in Umgebungen, die auf KI-Agenten angewiesen sind, insbesondere im Zuge der Einführung von Multiagentensystemen in Unternehmen. In diesen Systemen wird die Arbeit über Gruppen von Akteuren koordiniert, anstatt durch isolierte Tools oder Workflows abgewickelt zu werden. Die Steuerungsebene legt fest, wie Aufgaben zugewiesen werden, wie Agenten interagieren und wie Ausgaben validiert werden. Diese Struktur verändert die Art und Weise, wie Teams Prozesse entwerfen und Ergebnisse verwalten.

Ohne eine Steuerungsebene sehen sich Unternehmen mit einer unkontrollierten Ausbreitung von KI-Agenten konfrontiert, die unkoordiniert und unkontrolliert zunehmen. In der IBV-Studie gaben 94 % der Unternehmen an, dass diese unkontrollierte Ausbreitung von KI-Agenten das Sicherheitsrisiko und die Komplexität erhöht. Dies kann den Druck zur Konsolidierung der Anbieter erhöhen, da Teams versuchen, fragmentierte Umgebungen zu vereinfachen, die eine Skalierung der KI erschweren. Zu den häufigsten Herausforderungen bei der Einführung gehören:

• Fragmentierung und isolierte KI: Agenten werden in einzelnen Funktionen wie HR, Finanzen oder IT eingesetzt, aber Geschäftsprozesse erstrecken sich über diese hinweg. Diese Diskrepanz erschwert die Erzielung durchgängiger Ergebnisse.
• Mangelnde Koordination und Abstimmung: Mit zunehmender Anzahl der Agenten wird es schwieriger, deren Interaktion zu steuern. Diese Diskrepanz führt zu doppeltem Aufwand, inkonsistentem Verhalten und fragmentierten Nutzererfahrungen.
• Die Risiken schlechter Governance: Ohne konsequente Leitlinien könnten Agenten auf falsche Daten zugreifen oder unbeabsichtigte Maßnahmen ergreifen. Dies kann zu Sicherheitsproblemen und Kontrollverlust führen.

Eine Agentensteuerungsebene bewältigt diese Herausforderungen durch die Einführung gemeinsamer Standards, Koordination und Aufsicht. Sie bietet Agenten eine einheitliche Möglichkeit, team- und systemübergreifend zu arbeiten, was Doppelarbeit reduziert und die Abstimmung verbessert. Diese Struktur erleichtert auch die Nachverfolgung von Verhaltensweisen und die Zuweisung von Verantwortlichkeiten.

Die Agentensteuerungsebenen prägen außerdem, wie Unternehmen mit Veränderungen umgehen. Wenn Agenten aktualisiert oder erweitert werden, sorgt die Steuerungsebene dafür, dass die Änderungen nach festgelegten Prozessen erfolgen. Mit diesem System können Teams Updates kontrolliert testen, genehmigen und bereitstellen. Es reduziert Unterbrechungen und unterstützt einen besser vorhersehbaren Betrieb, wenn sich die Systeme weiterentwickeln.

Eine Agentensteuerungsebene wird durch eine Reihe von Kernfunktionen definiert, die regeln, wie Agenten entdeckt, ausgeführt, gesteuert und gewartet werden. Sie unterstützen die Orchestrierung von KI-Agenten über verschiedene Systeme hinweg und helfen sicherzustellen, dass autonome Agenten zuverlässig arbeiten können.

Diese Fähigkeiten werden oft in architektonische Ebenen (wie Orchestrierung, Governance oder Observability) gruppiert, arbeiten aber in der Praxis als ein kohärentes System zusammen. Das Verständnis der Fähigkeiten einer Agentensteuerungsebene ermöglicht einen klareren, direkteren Blick auf ihre Funktionsweise.

Stellt sicher, dass Agenten und Benutzer authentifiziert und autorisiert sind, und setzt Berechtigungen für alle Systeme und Datenquellen durch. Diese Kontrollmaßnahme umfasst die Anwendung des Prinzips der minimalen Berechtigungen, um den Zugriff auf sensible Daten einzuschränken.

Verwaltet einen zentralen Katalog verfügbarer Agenten und Tools und ermöglicht so deren Erkennung, Wiederverwendung und konsistenten Aufruf. Diese Funktion unterstützt auch das Onboarding neuer KI-Agenten auf verschiedenen Agentenplattformen und kann vordefinierte Vorlagen zur Standardisierung der Einrichtung enthalten.

Verwaltet die Ausführung von Agentenaktionen und Tool-Aufrufen, einschließlich Eingabe, Ausgabe, erneute Versuche und Fehlermanagement. Es verwaltet das Verhalten zur Laufzeit und sorgt dafür, dass Aktionen bei Bedarf in Echtzeit verarbeitet werden.

Unterstützt den gesamten Lebenszyklus von Agenten und Tools, einschließlich Versionierung, Tests, Bereitstellung und Aktualisierungen. Es verwaltet außerdem Prüfpfade, um Veränderungen im Zeitverlauf zu verfolgen.

Wendet Regeln an, die das Verhalten der Agenten steuern, z. B. welche Tools verwendet werden dürfen, auf welche Daten zugegriffen werden kann und welche Aktionen zulässig sind. Diese Richtlinien helfen, Risiken zu reduzieren und die Gefährdung von Sicherheitslücken zu begrenzen.

Leitet eingehende Anfragen basierend auf Kontext, Absicht und Systemregeln an den entsprechenden Agenten, das entsprechende Tool oder den entsprechenden Workflow weiter.

Verwaltet, wie Agenten Daten über Aufgaben, Sitzungen und Workflows hinweg speichern, abrufen und teilen.

Erfasst Protokolle, Metriken und Traces, die Einblick in das Systemverhalten, die Leistung und die Ergebnisse für die Überwachung und das Debugging des KI-Agenten bieten. Diese Fähigkeit ist von zentraler Bedeutung für die Observability von KI-Agenten.

Die im vorigen Abschnitt beschriebenen Funktionen geben einen Überblick darüber, was eine agentenbasierte Steuerungsebene leisten kann. In der Praxis werden diese Funktionen durch eine Reihe von Kernkomponenten der Plattform umgesetzt – die manchmal als „Agentenbetriebssystem“ bezeichnet werden –, die festlegen, wie Agenten erstellt, bereitgestellt und in großem Maßstab betrieben werden.

Gemeinsam sorgen sie dafür, dass Arbeitsabläufe auch bei wachsender Komplexität zuverlässig, sicher und anpassungsfähig bleiben. Die Steuerungsebene koordiniert die Ausführung, während die zugrunde liegenden Laufzeitsysteme Aufgaben ausführen.

• Laufzeit-Orchestrierung: Das System muss eingehende Anfragen empfangen und interpretieren und dann koordinieren, wie sie von Agenten, Modellen und externen Tools ausgeführt werden. Diese Orchestrierung wird typischerweise über Programmierschnittstellen (APIs), ereignisgesteuerte Architekturen und Workflow-Engines umgesetzt, die mehrstufige Prozesse und Abhängigkeiten verwalten.
  
  
• Ausführung und Zugriff auf Tools: Die Plattform bietet eine kontrollierte Umgebung für die Ausführung von Agentenaktionen und die Interaktion mit externen Tools und Diensten. Diese Umgebung umfasst standardisierte Schnittstellen, Eingabe- und Ausgabevalidierung und Mechanismen zur Behandlung von Fehlern und Wiederholungen.
  
  
• Zugriffs- und Integrationsebene: Ein einheitliches Gateway bietet Agenten eine konsistente Möglichkeit, auf Daten, Tools und externe Systeme zuzugreifen. Diese Ebene vereinfacht die Integration in heterogenen Umgebungen und zentralisiert die Bearbeitung von Anfragen.
  
  
• Sicherheit und Autorisierung: Alle Interaktionen zwischen Agenten, Benutzern und Systemen müssen authentifiziert und autorisiert werden. Diese Sicherheit wird in der Regel durch Identitätssysteme, tokenbasierten Zugriff und dynamisch zugewiesene Berechtigungen gewährleistet.
  
  
  
• Status- und Kontextverwaltung: Die Aufrechterhaltung des Kontexts über Interaktionen hinweg ist für ein kohärentes Agentenverhalten unerlässlich. Dies umfasst sowohl kurzfristige Arbeitskontexte als auch längerfristige Zustände, unterstützt durch Systeme, die Informationen während eines gesamten Arbeitsablaufs speichern und abrufen.
  
  
• Observability und Bewertung: Die Steuerungsebene muss einen klaren Einblick in das Systemverhalten bieten. Diese Transparenz umfasst das Sammeln von Protokollen, Metriken und Traces sowie die Bereitstellung dieser Informationen für die Überwachung, Fehlersuche und Analyse.
  
  
• Durchsetzung von Richtlinien: Richtlinien müssen während der Ausführung aktiv durchgesetzt werden und dürfen nicht als statische Definitionen betrachtet werden. Die Durchsetzung erfordert eine Laufzeitbewertung der Agentenaktionen anhand definierter Regeln, um sicherzustellen, dass das Verhalten den betrieblichen und sicherheitstechnischen Vorgaben entspricht.
  
  
• Lebenszyklus- und Versionsmanagement: Diese Komponenten unterstützen den gesamten Agentenlebenszyklus, vom Design und der Entwicklung über das Testen, die Bereitstellung, den Betrieb und die Überwachung. Versionsmanagement und kontrollierte Release-Mechanismen helfen sicherzustellen, dass Updates sicher eingeführt werden können, ohne bestehende Systeme zu stören.
  
  
• Skalierbarkeit und Zuverlässigkeit: Die Steuerungsebene muss auch bei steigender Nachfrage und bei teilweisen Systemausfällen weiterhin einwandfrei funktionieren. Dies erfordert einen verteilten Systemaufbau, ein effektives Workload-Management sowie Mechanismen für eine reibungslose Wiederherstellung bei Ausfall von Komponenten.
  
  
• Agenten- und Asset-Register: Die Steuerungsebene verwaltet ein Register von Agenten, Tools und Abhängigkeiten. Das Register ermöglicht es den Teams, diese Assets zentral zu entdecken, wiederzuverwenden und zu verwalten, was die Konsistenz verbessert und Duplikate im gesamten Unternehmen reduziert.

Agentensteuerungsebenen werden überall dort eingesetzt, wo mehrere KI-Agenten koordiniert, gesteuert und skalierbar operieren müssen. Sie sind besonders relevant in Umgebungen, in denen Zuverlässigkeit, Sicherheit und Aufsicht entscheidend sind. Die folgenden Anwendungsfälle veranschaulichen, wie Steuerungsebenen Workflows in der realen Welt prägen.

Steuerungsebenen erfassen Daten über die Leistung der Agenten und verwenden diese, um das Systemverhalten im Laufe der Zeit zu verbessern. Wenn beispielsweise ein Support-Agent häufig bestimmte Probleme eskaliert, erkennt die Steuerungsebene das Muster und aktualisiert das Routing, sodass ähnliche Anfragen von einem passenderen Agenten bearbeitet werden.

Steuerebenen verwalten mehrere Support-Agenten, die unterschiedliche Arten von Anfragen über Apps und Copilot-ähnliche Schnittstellen bearbeiten. Sie leiten Anfragen weiter, setzen Antwortrichtlinien durch und überwachen die Leistung, um einen einheitlichen Service über alle Kanäle hinweg zu gewährleisten. Wenn ein Kunde ein Abrechnungsproblem über den Chat einreicht, leitet die Steuerungsebene die Anfrage an einen abrechnungsspezifischen Agenten weiter. Diese Maßnahme schränkt den Zugriff auf relevante Kontodaten ein und protokolliert die Interaktion zur Prüfung.

Unternehmen nutzen Agentensteuerungsebenen, um Agenten über mehrstufige Geschäftsprozesse hinweg zu koordinieren, die Systeme wie Kundenbeziehungsmanagement (Customer Relationship Management, CRM), Enterprise Resource Planning (ERP) und interne Tools umfassen. Die Steuerungsebene sorgt dafür, dass jeder Schritt in der richtigen Reihenfolge und nach festgelegten Regeln ausgeführt wird.

In einem Beschaffungsworkflow sammelt beispielsweise ein Agent Kostenvoranschläge von Anbietern, ein anderer bewertet die Preisgestaltung und ein dritter erteilt die Genehmigungen. Die Steuerungsebene orchestriert diese Schritte, setzt Genehmigungsrichtlinien durch und protokolliert Entscheidungen zu Prüfungszwecken.

Mit Hilfe von Steuerungsebenen können Sie sicherstellen, dass das Verhalten der Agenten mit den internen Richtlinien und externen Vorschriften übereinstimmt, was besonders in regulierten Branchen wichtig ist. Im Finanzdienstleistungsbereich muss beispielsweise ein Agent, der Anlageempfehlungen erstellt, die Compliance-Vorschriften einhalten. Die Kontrollebene schränkt den Datenverbrauch ein und protokolliert Ausgaben zur regulatorischen Überprüfung.

In komplexeren Szenarien arbeiten mehrere Agenten an einer gemeinsamen Aufgabe. Die Steuerungsebene verwaltet, wie Aufgaben aufgeteilt werden, wie Informationen ausgetauscht werden und wie Ausgaben kombiniert werden. Diese Form der Zusammenarbeit mehrerer Agenten ermöglicht eine koordinierte Problemlösung zwischen Agenten.

Zum Beispiel sammelt in einem Forschungs-Workflow ein Agent Daten, ein anderer fasst die Ergebnisse zusammen und ein dritter erstellt einen Bericht. Die Steuerungsebene koordiniert den Datenfluss und trägt dazu bei, dass das Endergebnis die Qualitätsstandards erfüllt.

Agenten greifen häufig auf externe Systeme zurück, um Aufgaben zu erledigen. Die Steuerungsebene regelt, wie Tools und APIs ausgewählt und genutzt werden, und gewährleistet dabei die korrekte Abfolge sowie die sichere Ausführung.

Zum Beispiel aktualisiert ein Vertriebsagent einen Kundeneintrag und sendet eine Folge-E-Mail. Die Steuerungsebene koordiniert die CRM-Aktualisierung und löst den E-Mail-Dienst aus, wobei Zugriffs- und Formatierungsregeln angewendet werden.

Agentensteuerungsebenen bieten eine strukturierte Möglichkeit, KI-Agenten bei ihrer Skalierung über Systeme und Teams hinweg zu verwalten. Ihr Wert liegt in der Verbesserung der Kontrolle, Koordination und Beobachtung von Agenten in Produktionsumgebungen. Diese Vorteile tragen zur Unterstützung von Systemen auf Unternehmensebene bei, die im Unternehmensmaßstab betrieben werden.

• Zentralisierte Steuerung: Richtlinien werden an einem zentralen Ort definiert und durchgesetzt, anstatt in jedem einzelnen Agenten verankert zu sein, was die Einhaltung erleichtert.
  
  
• Klare Verantwortlichkeit: Handlungen lassen sich bestimmten Akteuren zuordnen, was die Nachverfolgung und die Zuweisung von Verantwortlichkeiten erleichtert.
  
  
• Konsistentes Verhalten: Gemeinsame Regeln verringern die Unterschiede in der Art und Weise, wie Agenten Aufgaben ausführen, und erhöhen so die Zuverlässigkeit.
  
  
• Kontinuierliche Anpassung: Überwachung und Feedback ermöglichen eine kontinuierliche Verfeinerung der Routing-Entscheidungen und des Agentenverhaltens.
  
  
• Effiziente Ressourcennutzung: Aufgaben werden an geeignete Agenten und Tools weitergeleitet, wodurch Doppelarbeit vermieden und die Effizienz verbessert wird.
  
  
• Schnellere Iteration: Agenten können durch kontrollierte Prozesse aktualisiert und bereitgestellt werden, wodurch Verbesserungen möglich sind, ohne laufende Systeme zu beeinträchtigen.
  
  
• Verbesserte Sichtbarkeit: Die Teams können sehen, was die Agenten tun und wie sie arbeiten. So lassen sich Probleme leichter erkennen und das Systemverhalten besser verstehen. Diese Transparenz unterstützt auch die Bewertung des KI-ROI im Laufe der Zeit.
  
  
• Sichererer Betrieb: Zugriffskontrollen und die Durchsetzung von Richtlinien schränken die Handlungsmöglichkeiten der Agenten ein und verringern so das Risiko unbeabsichtigter Aktionen.
  
  
• Skalierbarkeit: Die Steuerungsebene sorgt für Struktur, wenn die Anzahl der Agenten wächst, und verhindert so Fragmentierung und Kontrollverlust.

Der Aufbau einer Agent-Steuerungsebene erfordert mehr als nur die Zusammenstellung von Komponenten. Er umfasst wohlüberlegte Entscheidungen hinsichtlich Systemgrenzen, Governance und langfristigem Betrieb. Die folgenden Vorgehensweisen tragen dazu bei, dass das System auch bei zunehmendem Umfang effektiv bleibt.

• Klare Grenzen definieren: Geben Sie an, was in die Steuerungsebene und was zu den einzelnen Agenten gehört, um Überschneidungen und Verwirrung zu vermeiden.
  
  
• Modulares Design: Trennung von Zuständigkeiten wie Routing und Richtliniendurchsetzung, damit sich Komponenten unabhängig voneinander weiterentwickeln können.
  
  
• Interoperabilität ermöglichen: Entwerfen Sie die Steuerungsebene so, dass sie über verschiedene Modelle und Tools hinweg funktioniert, einschließlich Open-Source-Frameworks wie LangChain und Systemen, die auf großen Sprachmodellen (LLM)-Architekturen basieren. Die Interoperabilität umfasst auch Unterstützung für mehrere Anbieter wie OpenAI und Anthropic, um Lock-in zu vermeiden.
  
  
• Frühzeitig Steuerung etablieren: Richtlinien für den Zugriff und die Datennutzung von Anfang an festlegen, um spätere nachträgliche Kontrollen zu vermeiden.
  
  
• Bei Bedarf menschliche Aufsicht einbeziehen: Lassen Sie in risikoreichen oder unklaren Fällen eine menschliche Überprüfung zu, um Zuverlässigkeit und Vertrauen zu verbessern.
  
  
• Für die Skalierung planen: Diese Systeme sollten die Bereitstellung in Umgebungen wie AWS oder Microsoft-Plattformen unterstützen, mit Tools wie GitHub integriert werden und den Zugriff über Schnittstellen wie eine Befehlszeilenschnittstelle (CLI) oder ein Dashboard ermöglichen. Diese Funktionen unterstützen umfassendere organisatorische Initiativen und die Integration mit Unternehmenstools wie LinkedIn.
  
  
• Die Beobachtbarkeit priorisieren: Erfassen Sie Protokolle und Metriken der Agentenaktivitäten, um Debugging und Leistungsanalyse zu unterstützen.
  
  
• Jeden Schritt sichern: Wenden Sie im gesamten System Authentifizierung und Validierung an, um das Risiko zu verringern.
  
  
• Standardisierung der Registrierung: Stellen Sie sicher, dass alle Agenten und Tools nach einem einheitlichen Verfahren registriert werden, um die Auffindbarkeit und Integration zu verbessern.
  
  
• Unterstützung des Lebenszyklusmanagements: Beziehen Sie Versionierungs-, Test- und Bereitstellungsprozessen zur Unterstützung sicherer und vorhersehbarer Aktualisierungen ein.
  
  
• Feedback-Schleifen verwenden: Verfeinern Sie Routing und Verhalten auf der Grundlage von Systemdaten und Benutzerfeedback.