Steigern Sie die betriebliche Effizienz mit generativer KI-Observability

Diese Ankündigung folgt auf die Vorabverfügbarkeit von IBM Instana Intelligent Incident Investigation – entwickelt für die Verwendung von agentischer KI, um eine schnellere und umfassendere Ursachenermittlung zu ermöglichen. Wenn Unternehmen große Sprachmodelle (LLMs) und agentenbasierte Workflows in die Produktion integrieren, können sich die betrieblichen Herausforderungen vervielfachen: Debugging undurchsichtiger KI-Pipelines, Kontrolle unvorhersehbarer Token-Kosten und Gewährleistung zuverlässiger Customer Experience. Instana GenAI Observability geht diese Probleme mit einer einheitlichen, unternehmensbereiten Lösung direkt an.

Die Unternehmens-IT hat bereits mit der Last der Komplexität zu kämpfen. Ein aktueller Bericht zeigt, dass zwei der drei wichtigsten Aufgaben im Zusammenhang mit der Observability darin bestehen, die Anpassung der Beobachtbarkeitstools an neue Architekturmuster anzupassen und eine konsistente Beobachtbarkeitsabdeckung über mehrere Umgebungen hinweg sicherzustellen.

Darüber hinaus hat KI völlig neu definiert, was eine Anwendung ist. Anwendungen sind nicht mehr klar definiert und benutzergesteuert mit vordefinierten Ergebnissen; sie sind selbstgesteuert, zielorientiert und beinhalten kontextbezogene Überlegungen. Es steht viel auf dem Spiel. Die durchschnittlichen Kosten für ungeplante IT-Ausfallzeit liegen bei 14.056 USD pro Minute, was 218.000 USD bis 1,425 Millionen USD pro Stunde entspricht, je nach Unternehmensgröße. Und ohne Einblick in KI-gestützte Systeme können Unternehmen unkontrollierbare Kosten und Reputationsschäden riskieren.

Hochgradig automatisierte Unternehmen zeigen den Weg in die Zukunft, wenn es um den Einsatz von Observability-Tools geht, mit denen sich potenziell eine Senkung der IT-Kosten und ein hoher ROI durch die KI-gestützte digitale Transformation erzielen lassen.

IBM Instana GenAI Observability wurde für Plattformingenieure, SRE- und IT-Betriebsteams sowie Führungskräfte entwickelt, die Zuverlässigkeit und Kosten von KI-Funktionen miteinander in Einklang bringen müssen. Es bündelt KI-spezifische Telemetrie zusammen mit dem Rest des IT-Stacks an einen Ort:

• Debugging-Fähigkeit von KI-Workflows: End-to-End-Verfolgung von Agenten, Toolaufrufen, Abrufschritten, Wiederholungsversuchen, Prompts und Ausgaben.
• Betriebliche KPIs: Latenz, Fehlerraten und Durchsatz über verbrauchte Token pro Anfrage, Service, Modell oder Mandant.
• Kostenkontrolle: Frühe Anwender heben die Fähigkeit von Instana hervor, unerwartet hohe Rechnungen zu vermeiden, indem Ausgaben Workloads und Mandanten zugeordnet werden.
• Einheitlicher Kontext: Die KI-Telemetrie ist nicht isoliert, sondern eng mit den Anwendungen und der Infrastruktur integriert, die eine schnellere Ursachenanalyse ermöglichen.

Die Observability-Geschäftswelt brodelt immer mehr, und viele Anbieter integrieren KI-Transparenz in ihre Tools. Wir sind davon überzeugt, dass Instana sich durch vier zentrale Unterscheidungsmerkmale abhebt:

1. Full-Stack-Kontext in Echtzeit: Ein Produkt integriert Anwendungen, Infrastruktur und KI-Signale.
2. Open Source-First-Ansatz: Durch die Instrumentierung über OpenLLMetry bleiben die Daten portabel und anbieterneutral.
3. Umfassende Ökosystem-Abdeckung: Von IBM watsonx.ai und Amazon Bedrock über agentische Frameworks wie LangChain und CrewAI bis hin zu Vektordatenbanken wie Milvus DB und großen Anbietern großer Sprachmodelle  
4. Von IBM Research unterstützte Fehlerbehebungsansichten der nächsten Generation: Purpose-built Visualisierungen zeigen KI Leistungsmuster auf, die auf einer von IBM patentierten Technologie basieren.

Kunden wünschen sich einen zentralen Ort, um die KI-Leistung in der Produktion zu sehen – von Prompt zu Token bis hin zur Latenz und ohne den End-to-End-Kontext zu verlieren. Genau das bietet Instana generative KI Observability.

Für Teams, die eine führende Observability-Lösung verwenden, kann sich dies deutlich lohnen: reduzierte mittlere Zeit bis zur Lösung (Mean Time to Resolution, MTTR), weniger unerwartete Kosten. Für Führungskräfte kann eine solche Lösung Governance und operative Intelligenz unterstützen, um KI zu skalieren. Und für Branchen, die mit der zunehmenden IT-Komplexität konfrontiert sind, stellt es eine Möglichkeit dar, die Kosten zu senken und gleichzeitig die Innovation zu beschleunigen.

In Zukunft ist die Echtzeit-Observability von Instana ein wichtiger Teil der umfassenderen KI-Strategie von IBM. Zusammen mit Angeboten wie watsonx.governance und watsonx Orchestrate, die anpassbare, domänenspezifische Agenten bereitstellen, baut IBM einen konsistenten Ansatz für die Überwachung, Governance und Automatisierung über den gesamten KI-Lebenszyklus hinweg auf.

IBM Instana GenAI Observability ist ab sofort verfügbar. Wenn Sie an der IBM Konferenz in Orlando, FL, teilnehmen, erfahren Sie mehr über diese Funktionen in der Sitzung Nr. 3122, „Mit KI-gestützter Observability die betriebliche Effizienz steigern“.

Transformieren Sie Ihre KI-Abläufe