KI-Agenten-Sprawl: Was es ist und wie man es kontrolliert

Wildwuchs entsteht, wenn KI-Agenten – autonome Systeme, die mit minimalem menschlichem Eingriff Entscheidungen treffen und Maßnahmen ergreifen – ohne eine einheitliche Strategie oder strenge Steuerungsmechanismen bereitgestellt werden. Der Wildwuchs von KI-Agenten führt zu einem Ökosystem redundanter und fragmentierter Agenten, das sich über Teams und Funktionen hinweg erstreckt. Ähnlich wie zuvor bei der unkontrollierten Ausbreitung von KI oder Anwendungen entsteht ein Wildwuchs von KI-Agenten, wenn Geschwindigkeit die Transparenz in den Hintergrund drängt: Einzelne Teams stellen Agenten bereit, um Aufgaben zu automatisieren oder Workflows zu verwalten, ohne dass ein einheitliches, unternehmensweites Programm vorliegt.

Laut Gartner werden die Fortune-500-Unternehmen bis 2028 durchschnittlich über 150.000 KI-Agenten einsetzen. Nach Angaben des Unternehmens glauben jedoch nur 13 % der Unternehmen, dass sie über die richtige Governance für KI-Agenten verfügen. Diese Daten weisen auf eine einfache, aber drängende Realität hin. Agenten, insbesondere in Low-Code- oder No-Code-Umgebungen, sind einfach zu erstellen, aber sie sind viel schwieriger bereitzustellen, zu betreiben und verantwortungsvoll zu überwachen.

Ausufernde, unüberschaubare Ökosysteme von KI-Tools können die Kosten ebenfalls erheblich erhöhen. Laut einer Studie der US-Handelskammer haben 58 % der Kleinunternehmen generative KI eingeführt, und einige Berater berichten, dass kleine Unternehmen mit knappen Budgets Tausende von Dollar pro Monat für eine Handvoll redundanter KI-Schreib-Tools ausgeben. Ganz zu schweigen von den versteckten Kosten von Mitarbeitern, die, anstatt die Produktivität durch den Einsatz von KI zu steigern, das Gegenteil erkennen: Das Umschalten zwischen Anwendungen und Plattformen im Laufe des Tages verlangsamt die Arbeit erheblich.

Wenn einzelne Teams wie Marketing, Finanzen oder Kundensupport Agenten aufbauen, sind diese Agenten für andere Teile des Unternehmens möglicherweise nicht sichtbar. Dadurch entsteht ein Sammelsurium von Agenten mit voneinander unabhängigen Funktionen anstelle eines zusammenhängenden Systems. Laut einer Studie des IBM Institute for Business Value führen nur 18 % der Unternehmen ein aktuelles und vollständiges Inventar ihrer KI-Agenten, was die Integrationsbemühungen behindert. Ähnliche Probleme können redundant gelöst werden, mit minimalem Wissenstransfer zwischen den Systemen.

Mit Agenten-Sprawl entstehen Systeme, die unabhängig voneinander arbeiten, ohne gemeinsamen Kontext oder Mechanismus zur Lösung von Problemen, wenn sich die Ausgaben überschneiden. Ohne zentrale Orchestrierung könnten Agenten Arbeit duplizieren oder unbeabsichtigte Feedback-Schleifen erzeugen. Diese Duplikationen und Schleifen verstärken schnell Fehler in vernetzten Systemen. 

Angesichts der rasanten Einführung von agentischer KI fehlt es vielen Unternehmen an ganzheitlichen Richtlinien und Prozessen, um große Agentennetzwerke verantwortungsvoll zu verwalten. Das bedeutet, dass es Folgendes geben könnte:

• Kein standardisierter Genehmigungs-Workflow vor der Bereitstellung

• Keine definierte Verantwortung dafür, ob und wann Fehler auftreten

• Ein Mangel an Lebenszyklus-Prozessen für das Ausscheiden von Agenten, wenn sie nicht mehr benötigt werden.

Ohne unternehmensweite Governance-Praktiken steigen die Risiken exponentiell. 

KI-Agenten ohne strenge Sicherheits- und Compliance-Kontrollen könnten ohne entsprechende Autorisierung auf sensible Daten zugreifen oder Prüfprotokolle umgehen. Wenn Agenten in großem Umfang autonom handeln, kann eine einzige Fehlkonfiguration zu einer unternehmensweiten Belastung werden.

Solche Risiken sind besonders dringlich in Bereichen wie dem Finanzwesen oder dem Gesundheitswesen, wo sie versehentlich geschützte Informationen offenlegen könnten. Regulatorische Rahmenbedingungen wie HIPAA oder die DSGVO können unmöglich eingehalten werden, wenn es keine einheitliche Single-Source-of-Truth gibt, die regelt, worauf Agenten zugreifen oder wie sie ihre Entscheidungen treffen. 

Wenn verschiedene Teams ähnliche Agenten – oder sogar identische Agenten – entwickeln, entstehen jedem Team eigene Infrastrukturkosten. Mit der Zeit steigen die Preise für Rechen- und API-Token sowie die Lizenzkosten für Dritte. Und KI-Systeme, die nicht ordnungsgemäß außer Betrieb genommen werden, können auch nach ihrer Stilllegung weiterhin Ressourcen verbrauchen, was Budgets belastet und wertvolle Ressourcen aufzehrt. 

Wenn Agentennetzwerke fragmentiert und isoliert sind, lassen sie sich schwieriger effektiv skalieren. Ausufernde Agenten-Ökosysteme können schwer zu erhalten und zu verbessern sein. Isoliert aufgebaute Agenten replizieren möglicherweise den Aufwand, aber was noch wichtiger ist, es fehlen ihnen gemeinsame Tools. Dieses gemeinsame Tool hat das Potenzial, abteilungsübergreifende Praktiken zu verändern und die Überwachung und Protokollierung von Agenten zu erleichtern.

Auch die Ausbreitung von Agenten führt zu deutlich langsameren Reaktionen auf Vorfälle, wenn ein Agent einen Fehler macht und nicht schnell ein verantwortliches Team identifiziert werden kann. Und die Reaktion auf Vorfälle, die auf kompromittierte Agenten oder unbefugte Datennutzung zurückzuführen sind, kann ernsthafte Risiken mit sich bringen, wenn komplexe, voneinander abhängige und unerklärliche Agenten involviert sind.

Laut dem Connectivity Benchmark-Bericht 2026 von Salesforce verwendet ein Unternehmen im Durchschnitt 12 oder mehr KI-Agenten, aber 50 % dieser Agenten arbeiten in Silos und nicht als Teil eines koordinierten Systems. Ohne gezielte Koordination könnten dieselben Datenpipelines mehrfach aufgebaut werden, und jedes Agentensystem behält seine eigene Version der Wahrheit bei. Dies kann zu widersprüchlichen Ausgaben führen.

Die Datenfragmentierung erschwert die Rückverfolgung von Abläufen und macht es schwierig, nachzuverfolgen, welcher Mitarbeiter eine bestimmte Entscheidung getroffen hat. Außerdem hindert sie Unternehmen daran, den wahren Wert autonomer, abteilungsübergreifender Ökosysteme zu nutzen, in denen relevante Daten nahtlos ausgetauscht werden. 

Agenten-Wildwuchs und Schatten-KI sind zwar miteinander verbundene, aber dennoch unterschiedliche Begriffe. Schatten-KI bezeichnet die Nutzung nicht genehmigter Tools durch Mitarbeiter. Ein Beispiel hierfür ist ein Marketingleiter, der ein privates LLM-Konto wie ChatGPT zur Bearbeitung von Arbeitsdokumenten nutzt. KI-Agenten-Unübersichtlichkeit hingegen beschreibt ein strukturelles Phänomen. Selbst genehmigte, von der IT zugelassene Agenten können zur Ausbreitung beitragen, wenn sie ohne Koordination eingesetzt werden.

Aber die Ausbreitung von KI-Agenten kann manchmal versehentlich zu einer verstärkten Veränderung der Schatten-KI führen, wie Gartner herausfand. „Da viele CIOs und IT-Leiter eine explosionsartige Zunahme von KI-Agenten in ihren Unternehmen beobachten“, schrieb Max Goss, Senior Director Analyst bei Gartner, „haben viele mit einer unkontrollierten Ausbreitung von Agenten zu kämpfen, die ihr Unternehmen einer Reihe von Risiken aussetzen, darunter übermäßige Datenweitergabe und Datenverlust.“ Viele Unternehmen, fügte er hinzu, neigen dazu, die Nutzung von Agenten zu blockieren oder einzuschränken. Leider verleitet diese Taktik die Mitarbeiter dazu, stattdessen Schatten-KI einzusetzen, wodurch weitaus größere Sicherheits- und Compliance-Risiken entstehen.

Der Wildwuchs von KI-Agenten ist das jüngste Beispiel dafür, dass die Unternehmenstechnologie die organisatorischen Kapazitäten zur Steuerung dieser Technologien überholt. Es handelt sich um ein Muster, das sich mit zunehmender Geschwindigkeit wiederholt. Beispielsweise sind SaaS-Wildwuchs und Schatten-IT darauf zurückzuführen, dass die Cloud-Technologie die Einführung neuer Software erheblich vereinfacht hat – oft ohne Wissen der zentralen IT-Abteilungen.

Das Potenzial von agentischer KI, Arbeitsabläufe zu transformieren und leistungsstarke Mensch-KI-Partnerschaften zu schaffen, hat zu einer breiten Akzeptanz geführt. Laut einer internen Studie von IBM setzt die Mehrheit der Unternehmen bereits in irgendeiner Form KI-Agenten ein.

Angesichts der Vielzahl von KI-Tools, die in der Lage sind, Agenten schnell zu erstellen, erfordert die Entwicklung von Agenten-Tools jedoch nicht mehr unbedingt einen Software-Ingenieur oder einen langwierigen Feinabstimmungsprozess. Tools wie Copilot Studio von Microsoft und AgentForce von Salesforce unterstützen Low-Code- oder No-Code-Optionen zur Agentenentwicklung – leistungsstarke Lösungen, die dennoch eine schnelle Bereitstellung in allen Abteilungen fördern. Dieselbe IBM-interne Studie ergab, dass eine große Anzahl von Unternehmen berichtet, dass die Ausbreitung von KI bereits Sicherheitsrisiken erhöht und zu unnötiger Komplexität führt.

Die Auswirkungen sind erheblich: Fast jede Abteilung eines großen Unternehmens hat die Kapazität, autonome KI-Agenten einzusetzen, aber die Mechanismen zur Kontrolle und Steuerung dieser weitreichenden Netzwerke fehlen. Die Demokratisierung der KI und die Entwicklung von agentenbasierten Plattformen sowie die realen Geschäftsvorteile, die diese Technologien versprechen, machen es jedoch schwierig, sie aufzugeben. Die verantwortungsvolle Steuerung von KI-Agenten erfordert einen zentralisierten und zielgerichteten Ansatz, der das Verhalten der KI-Agenten in großem Maßstab überwacht und optimiert.

Das Fehlen eines skalierbaren Modells zur Steuerung des KI-Einsatzes im gesamten Unternehmen verhindert zudem eine unternehmensweite Koordination. „Es gibt keinen Kunden, bei dem nicht mindestens 60 zufällige KI-Anwendungen im gesamten Unternehmen im Rahmen von Schatten-IT und Schatten-KI im Einsatz sind“, sagte Matt Kosinski kürzlich in einer Folge des IBM-Podcasts „Mixture of Experts“. „Und jede Abteilung und jede Führungskraft behauptet: Ich bin eigentlich derjenige, der dies aus der Beschaffung, der Personalabteilung oder diesem Geschäftsbereich heraus leitet.“ 

Es ist schwierig, etwas zu regieren, das man nicht sehen kann. Erfolgreiche Versuche, die Agentenflut einzudämmen, beginnen mit einer umfassenden Bestandsaufnahme: Dazu könnte ein automatisierter Scan von Cloud-Umgebungen und APIs gehören, um alle aktiven Agenten zu finden. Mechanismen zur Entdeckung informeller autonomer Agenten, die außerhalb des offiziellen Kanals operieren, sollten ebenfalls enthalten sein. Es kann sinnvoll sein, einen kontinuierlichen Erkennungsprozess anstelle eines einmaligen Audits zu etablieren, da ständig neue Agenten in das Ökosystem eintreten werden. In dieser Zeit umfasst ein erfolgreiches Programm zur Kontrolle der Ausbreitung die Einrichtung eines unternehmensweiten, zentralisierten Bestands, um die Eigentümer, den Zweck und die Datenzugriffsberechtigungen der Agenten zu verfolgen. 

Sobald Agenten im gesamten Unternehmen eine bekannte Einheit sind, sollten Unternehmen klare Regeln dafür definieren, wer Agenten erstellen, bereitstellen und teilen kann – und Compliance-Regeln für KI-Tools festlegen. Datennutzung, Ratenbegrenzungen und Verbindungstools sollten sorgfältig überwacht werden, und Agenteninventare können verwendet werden, um adaptive Kontrollen zu erstellen, die die richtigen Richtlinien auf der Grundlage des Risikos, das ein Agent trägt, durchsetzen. 

Standardisierung trägt dazu bei, künftige Ausbreitung einzudämmen. Begrenzen Sie die Anzahl der Plattformen, die für die Erstellung von Agenten verwendet werden, um die architektonische Komplexität zu verringern, und verschaffen Sie sich laufend einen Überblick über die Nutzung von Agenten, um die Einhaltung standardisierter Richtlinien zu gewährleisten. Echtzeit-Dashboards können dabei helfen, anomales Verhalten zu erkennen und Agenten zu korrigieren, die sich falsch verhalten oder ihren vorgesehenen Aufgabenbereich überschreiten. Wenn die Erstellung eines neuen Agenten über den Standardweg eines Unternehmens einfacher ist als außerhalb dieses Weges, kann die Governance sich selbst verstärken. 

Eine effektive Reaktion auf die Agentenausbreitung kombiniert spezifische Toolkits mit einem gezielten organisatorischen Prozess. Zunehmend integrieren sich die leistungsstärksten Lösungen nahtlos: Zum Beispiel ein Codierungs-Tool, das in Kombination mit einer Orchestrierungsebene und einem Enterprise-Kontrollpanel arbeitet, um agentische KI über den gesamten Entwicklungszyklus kontinuierlich zu bauen, zu überwachen und zu optimieren.

Enterprise-Steuerungsebenen sind zentralisierte Verwaltungsschichten, die Unternehmen Sichtbarkeit und Kontrolle über autonome Systeme geben. Diese Schichten liegen über den KI-Agenten, LLMs und anderen KI-Tools und fungieren als eine Art Missionskontrolle. Steuerungsebenen ermöglichen es Unternehmen in der Regel, autonome Systeme aus einer einzigen Quelle zu beobachten, zu konfigurieren und zu steuern. 

Die Bekämpfung von Schatten-KI und Agentenausbreitung erfordert leistungsstarke, standardisierte und sichere Kodierungspartner. Heutige KI-Entwicklungspartner für Unternehmen wie IBM Bob basieren auf strukturierten Frameworks und sind in jeden Schritt des Softwareentwicklungslebenszyklus integriert – von der Planung über Tests bis hin zum Betrieb. Da diese Tools vom ersten Tag an standardisierte Transparenz und Sicherheitskontrollen bieten, können Unternehmen schnell skalieren und die Kontrolle behalten, während sie gleichzeitig die Ausbreitung deutlich reduzieren.

In Bobs Fall lassen sich die Entwicklertools nahtlos in watsonx Orchestrate integrieren, eine zentralisierte Steuerungsebene. In Zusammenarbeit können diese Systeme Probleme in Echtzeit beheben, Lösungen vorschlagen und neue Agenten entwickeln, die diese Probleme angehen. Außerdem erstellen sie selbstdokumentierende agentenbasierte Workflows, wodurch sichergestellt wird, dass jede Aktion überprüfbar und nachvollziehbar ist.

AI TRiSM-Tools – eine von Gartner formalisierte Kategorie – ermöglichen die kontinuierliche Überwachung des KI-Verhaltens. In der Regel erkennen sie Anomalien, setzen Leitlinien durch und decken Richtlinienverstöße auf. Diese Tools behandeln KI-Agenten als beobachtbare und überprüfbare Entitäten und wenden Laufzeitkontrollen an, bei denen die Agenten nicht vollständig neu erstellt werden müssen. 

Governance-Frameworks legen die Regeln eines Unternehmens fest, wer einen Agenten einsetzen darf und welchen Genehmigungsrahmen sie einhalten sollen. Sie können auch festlegen, welche Datenquellen verwendet werden dürfen und welche Leistungsstandards erfüllt werden sollten, bevor ein Agent freigegeben wird. Die effektivsten Governance-Frameworks schaffen klare Eigentumsrechte und Berechtigungen, definieren Eskalationspfade und integrieren sich nahtlos in bestehende Unternehmensrisikoprozesse, anstatt parallel zu arbeiten. 

Ein Agentenregister fungiert als Single-Source-of-Truth, indem es jeden im gesamten Unternehmen eingesetzten KI-Agenten katalogisiert. In den Registern werden unter anderem Zweck, Eigentümer, Datenzugriff, Modellversion und Betriebsstatus der Agenten dokumentiert.

Diese Datenbanken verwandeln ein KI-Ökosystem in einen bekannten und überschaubaren Bestand. Moderne Bestandssysteme sind oft dynamisch – die Agenten werden bei der Bereitstellung registriert und aktualisieren ihren Status automatisch – anstatt sich auf eine manuelle Dokumentation zu verlassen, die fehleranfälliger ist. 

Häufig ist die Ausbreitung ein Fehler bei der Stilllegung: Agenten werden bereitgestellt und nie außer Betrieb genommen. Tools für das Lebenszyklusmanagement setzen ein definiertes System vom Beginn der Entwicklung an durch, lösen in regelmäßigen Abständen Überprüfungen aus und zeigen automatisch Agenten an, die inaktiv geworden sind. 

Anstatt Agenten isoliert agieren zu lassen, koordinieren Orchestrierungsplattformen Workflows mehrerer Agenten und definieren, wie Agenten kommunizieren, Kontext austauschen, Aufgaben weitergeben und an Menschen eskalieren. Durch die explizite und beobachtbare Darstellung der Beziehungen zwischen den Agenten reduziert die Orchestrierung Redundanz und bietet einen natürlichen Integrationspunkt für Überwachung, Optimierung, Protokollierung und Zugriffskontrolle.