Observability im agentischen Zeitalter: Was läuft schief und wie beheben Teams diese Probleme?

Laut einem Bericht aus dem Jahr 2026 des Beratungsunternehmens Neurones IT ist weniger als jede zehnte Unternehmensanwendung vollständig beobachtbar. Diese Statistik weist auf ein seit langem bestehendes Problem hin: Herkömmliche Observability-Prozesse wurden nicht für die Komplexität der heutigen KI-gestützten Workflows konzipiert.

Stellen Sie sich einen KI-gestützten Reiseassistenten vor, bei dem die Antwortzeiten plötzlich stark ansteigen. Herkömmliche Observability-Tools würden möglicherweise eine erhöhte Latenz auf Serviceebene melden und die Teams dazu zwingen, Logs, Traces und Dashboards manuell zu durchsuchen, um festzustellen, ob das Problem vom Modell selbst, einer nachgelagerten API oder einem Agenten stammt, der ineffiziente Tool-Aufrufe tätigt. Dieser reaktive Ansatz kann dazu führen, dass Teams im Unklaren bleiben, insbesondere in fragmentierten und dynamischen modernen IT-Umgebungen.

„Immer mehr Kunden möchten kein Dashboard. Sie wollen nicht, dass ihnen jemand sagt: ‚Hey, so verhält sich Ihr System‘“, erklärte Vikram Murali, Vice President für Produktentwicklung bei IBM Automation, im Podcast „AI in Action“ von IBM. Stattdessen möchten sie wissen: „Welche Maßnahmen sind umsetzbar, damit das System besser funktioniert?“

Über statische Empfehlungen hinaus benötigen ITOps-Teams Lösungen, die selbstständig Prognosen erstellen und Anpassungen vornehmen können – indem sie Fehler und Ausfallzeiten im Voraus erkennen und autonom darauf reagieren.Da agentische KI das Systemverhalten, die Leistung und den Kontext kontinuierlich bewerten kann, sind Teams in der Lage, über oberflächliche Signale hinauszugehen, um Ursachen zu verstehen, Symptome zu untersuchen und Abhängigkeiten mit begrenztem menschlichem Aufwand zu identifizieren. Zusammen können diese Fähigkeiten laut der Neurones-Studie die ITOps-Kosten um bis zu 35 % senken, da der menschliche Aufwand, Ausfallzeiten und der betriebliche Overhead reduziert werden.

Die Integration von KI bringt jedoch auch neue betriebliche Herausforderungen mit sich, und es besteht eine wachsende Kluft zwischen KI-gestützten Funktionen und der Fähigkeit der Teams, agentisches Verhalten zu überwachen und zu steuern.

Als Reaktion darauf gestalten ITOps-Teams ihre Observability-Prozesse von Grund auf neu und stellen Agenten bereit, um die Ressourcennutzung zu optimieren, Aufgaben zu automatisieren und Fehler proaktiv zu erkennen – und das alles, während sie sich mit den spezifischen Herausforderungen der KI in Bezug auf Governance, Interpretierbarkeit und Daten auseinandersetzen. KI-gestützte Überwachungstools können agentische Prozesse beschleunigen, während Agenten wiederum die Observability verbessern können – was gemeinsam zu einer agileren, effizienteren und sichereren IT-Umgebung beiträgt.

Laut einem Bericht der Cybersicherheitsplattform Vectra erhalten Sicherheitsteams täglich durchschnittlich 4.500 Warnmeldungen, können jedoch nur auf etwa ein Drittel davon reagieren, wodurch Unternehmen anfällig für Angriffe und Sicherheitslücken bleiben.

Eine übermäßige Anzahl von Warnmeldungen kann jedoch ein Symptom für ein größeres Problem sein. Microservices, hybride Architekturen und verteilte Systeme können herkömmliche Überwachungsmechanismen überfordern, und viele Unternehmen haben Schwierigkeiten, relevante Informationen von irrelevanten zu unterscheiden. Agenten verschärfen diese Herausforderung noch, indem sie völlig neue Datensätze einführen (wie z. B. End-to-End-Entscheidungsbäume, Protokolle zur Tool-Interaktion und Metriken zur Speichernutzung), die die Teams erfassen und analysieren müssen.

Die Bemühungen um Observability werden zusätzlich dadurch erschwert, dass Daten aus KI-Quellen oft schwerer zu entschlüsseln sind: KI-Modelle können inkonsistente oder ungenaue Daten (Halluzinationen) erzeugen oder ihre Ergebnisse hinter undurchsichtigen Entscheidungsbäumen verbergen (das Black-Box-Problem). Modelle können zudem unbeabsichtigt sensible Informationen preisgeben (Datenlecks), was für Unternehmen in stark regulierten Branchen wie dem Gesundheitswesen und dem Finanzsektor ein Problem darstellen kann. Infolgedessen ergab eine Studie des IBM Institute for Business Value (IBV) aus dem Jahr 2025, dass 45 % der Führungskräfte mangelnde Transparenz als ein wesentliches Hindernis für die Integration von KI-Systemen anführen.

Diese Transparenzlücken können zu Compliance-Risiken führen, da Teams nicht in der Lage sind, detaillierte und überprüfbare Aufzeichnungen über das Verhalten der Agenten zu führen. Laut dem IBV gehen fast 70 % der Führungskräfte davon aus, dass ihr Unternehmen im Zusammenhang mit der Integration von generativer KI mit einer behördlichen Geldstrafe konfrontiert wird, was darauf hindeutet, dass interne Governance-Frameworks nicht mit den Workflows mit mehreren Agenten Schritt gehalten haben.

LLMs und andere KI-Tools können zudem eine Belastung für das Budget darstellen. Der Token-Verbrauch der Teams kann von Monat zu Monat stark schwanken, was es für Observability-Tools schwierig macht, den Bedarf vorherzusagen. Und weil KI-Anbieter ihre Modelle regelmäßig aktualisieren, neu trainieren und neu bereitstellen, müssen IT-Teams die Observability-Pipelines und Entwicklungsumgebungen immer wieder neu konfigurieren, um neuen Versionen Rechnung zu tragen.

Zwar erhöhen LLMS die Komplexität von Observability-Prozessen, doch können sie auch Teil der Lösung sein. Indem sie Observability-Plattformen mit agentenbasierten Funktionen ausstatten, können Unternehmen nicht nur auf die Herausforderungen der Einführung von KI im Unternehmenskontext reagieren, sondern auch ihre Überwachungsfähigkeiten über das hinaus ausbauen, was mit herkömmlichen Observability-Tools möglich ist. Agentische Observability-Tools können die IT-Leistung, Ausfallsicherheit und Sicherheit auf folgende Weise unterstützen und verbessern:

• Herkömmliche Observability-Tools senden Warnmeldungen auf der Grundlage vordefinierter Schwellenwerte für Datenverkehr, Speicherauslastung, Latenz und Fehlerquote.
  
  
• Dieser Ansatz führt häufig zu einer Alarmermüdung (Alarm Fatigue), bei der IT- und Sicherheitsteams mit Benachrichtigungen überhäuft werden und nicht mehr in der Lage sind, unwichtige Meldungen von dringenden Bedrohungen zu unterscheiden.
• Durch die Analyse historischer Daten und die Bewertung des Kontextes eines Ereignisses kann KI relevante Ereignisse mit hoher Priorität hervorheben und gleichzeitig nicht dringende Benachrichtigungen unterdrücken.

• KI-gestützte Observability-Tools können umfassende Ursachenanalysen liefern, die detailliert aufzeigen, warum ein Vorfall aufgetreten ist, wie er sich auf abhängige Dienste ausgewirkt hat und wie ähnliche Störungen in Zukunft verhindert werden können.
  
  
• KI-gestützte Lösungen können auf der Grundlage von Echtzeitbedingungen dynamisch Automatisierungen und Korrekturmaßnahmen vorschlagen, wobei menschliche Entwickler die Rahmenbedingungen festlegen und die Aufsicht übernehmen.
  
  
• Zusammen reduzieren diese Funktionen den Betriebsaufwand und verursachen eine schnellere durchschnittliche Reparaturzeit (MTTR).

• Herkömmliche Observability-Tools können in modernen IT-Umgebungen an ihre Grenzen stoßen, da Fehler dort selten auf einen einzelnen Ausfall zurückzuführen sind, sondern vielmehr komplexe Wechselwirkungen zwischen mehreren Diensten und Automatisierungen beinhalten können.
  
  
• Da agentische Plattformen darauf ausgelegt sind, Muster zu erkennen und über verteilte Architekturen hinweg Schlussfolgerungen zu ziehen, eignen sie sich oft besser für die Interpretation modellspezifischer Metriken wie Modelldrift, Antwortqualität und Token-Nutzung.
  
  
• Eine durchgängige Transparenz ermöglicht es KI-gestützten Observability-Tools zudem, Auswirkungen auf nachgelagerte Bereiche zu antizipieren und Ressourcen dynamisch zu skalieren.

• KI-gestützte Observability-Tools können die End-to-End-Leistung verbessern und die Ressourcennutzung optimieren, indem sie das Datenverkehrs-Routing, die CPU-Verfügbarkeit, den Durchsatz und andere Variablen in einen Kontext stellen.
  
  
• Fortschrittliche Plattformen können zudem automatisierte Fehlerbehebungen durchführen, wodurch der Betriebsaufwand verringert und die Fehlerbehebung beschleunigt wird.
  
  
• KI-gestützte Observability-Plattformen können Token-Spitzen, Tool-Aufrufe und andere KI-spezifische Metriken überwachen, um sicherzustellen, dass große Sprachmodelle (LLMs) sowohl für Kunden als auch für interne Teams leistungsfähig und nutzbar bleiben.

Die Zukunft der Observability könnte ebenso sehr durch einen strategischen Wandel wie durch einen technologischen bestimmt werden. Da sich die Aufgaben im Bereich der Observability von der reinen Datenerfassung hin zur Entscheidungsunterstützung und schließlich zu präventiven Maßnahmen verlagern, reagieren Unternehmen darauf wie folgt:

Die Observability von KI kann zu einer besseren Benutzererfahrung beitragen, bei der Kunden darauf vertrauen können, dass Dienste wie erwartet funktionieren – mit minimaler Latenz, vorhersehbarem Verhalten sowie einer schnellen und transparenten Fehlerbehebung.

IT-Teams und Entwickler können sich dadurch wiederum verstärkt der Produktinnovation und der Optimierung auf hoher Ebene widmen. Anstatt weniger in den Observability-Prozess eingebunden zu sein, gewinnen die Mitarbeiter ein tieferes Verständnis für das Systemverhalten und sind in der Lage, fundiertere Entscheidungen zu treffen, um Sicherheit, Betriebszeit und Leistung zu verbessern.

Melden Sie sich für das Webinar „Observability for AI and AI for Observability: From Hype to Hands-On“ an