Impulse la eficiencia operativa con la observabilidad de la IA generativa

Este anuncio sigue a la disponibilidad preliminar de IBM® Instana Intelligent Incident Investigation, que está diseñado para utilizar IA agéntica, para proporcionar una identificación de causa raíz más rápida y completa. A medida que las organizaciones escalan modelos de lenguaje de gran tamaño (LLM) y flujos de trabajo en producción, los desafíos operativos pueden multiplicarse: depurar pipelines de IA opacas, controlar costes de token impredecibles y garantizar experiencias del cliente fiables. Instana GenAI Observability aborda directamente estos problemas con una solución unificada y preparada para la empresa.

La TI empresarial ya está luchando bajo el peso de la complejidad con un informe reciente que muestra dos de las tres tareas más importantes relacionadas con la observabilidad que incluyen la adaptación de las herramientas de observabilidad para manejar nuevos patrones arquitectónicos y garantizar una cobertura de observabilidad consistente en múltiples entornos.

Además, la IA ha redefinido por completo lo que es una aplicación. Las aplicaciones ya no están bien delimitadas y dirigidas por el usuario con resultados predefinidos; son autodirigidas, orientadas a objetivos e incluyen razonamiento contextual. Hay mucho en juego. El coste medio del tiempo de inactividad de TI no planificado es de 14 056 USD por minuto, lo que equivale a 218 000-1 425 millones de USD por hora dependiendo del tamaño de la empresa, y sin visibilidad de los sistemas impulsados por IA, las organizaciones pueden arriesgarse a costes desbocados y daños a su reputación.

Las empresas altamente automatizadas muestran el camino a seguir cuando utilizan herramientas de observabilidad que pueden lograr una reducción de los costes de TI y un alto ROI de la transformación digital con IA.

IBM Instana GenAI Observability está diseñado para ingenieros de plataformas, SRE (ingeniería de fiabilidad del sitio) y equipos de operaciones de TI, y ejecutivos que deben equilibrar la fiabilidad y el coste de las características de IA. Centraliza la telemetría específica de la IA junto con el resto de la pila de TI:

• Depuración de flujos de trabajo de IA: seguimientos de agentes, llamadas a herramientas, pasos de recuperación, reintentos, instrucciones y salidas.
• KPI operacionales: latencia, tasas de error y rendimiento a través de token consumidos por solicitud, servicio, modelo o inquilino.
• Gobierno de costes: los primeros usuarios destacan la capacidad de Instana para evitar el "shock de la factura" de los tokens atribuyendo el gasto a las cargas de trabajo y a los inquilinos.
• Contexto unificado: la telemetría de IA no está aislada, sino que está profundamente fusionada con la aplicación y la infraestructura diseñadas para un análisis más rápido de la causa raíz.

El panorama de la observabilidad se está calentando, y muchos proveedores incorporan la visibilidad de la IA a sus herramientas. Creemos que Instana se distingue por cuatro diferenciadores principales:

1. Contexto de full stack en tiempo real: un producto integra aplicaciones, infraestructura y señales de IA.
2. Primer enfoque de código abierto: la instrumentación a través de OpenLLMetry mantiene los datos portátiles e independientes del proveedor.
3. Amplia cobertura del ecosistema: desde IBM watsonx.ai y Amazon Bedrock hasta marcos de trabajo de agencia como LangChain y CrewAI, pasando por bases de datos vectoriales como Milvus DB, junto con los principales proveedores de modelos de lenguaje de gran tamaño 
4. Vistas de resolución de problemas de última generación respaldadas por IBM Research: visualizaciones específicas que revelan patrones de rendimiento de la IA, utilizando tecnología patentada de IBM.

Los clientes quieren un único lugar para ver el rendimiento de la IA en producción, desde las instrucciones hasta los tokens y la latencia, sin perder el contexto de extremo a extremo. Eso es exactamente lo que ofrece Instana GenAI Observability.

Para los equipos que utilizan una solución de observabilidad líder, la recompensa puede ser significativa: reducción del tiempo medio de resolución (MTTR) y menos costes sorpresa. Para los ejecutivos, una solución de este tipo puede respaldar el gobierno y la inteligencia operativa para escalar la IA. Y para los sectores que se enfrentan a una creciente complejidad de TI, representa una forma de abordar los costes mientras se acelera la innovación.

De cara al futuro, la observabilidad en tiempo real de Instana es una parte importante de la estrategia más amplia de IA de IBM. Junto con ofertas como watsonx.governance y watsonx Orchestrate, que proporcionan agentes personalizables y específicos de dominio, IBM está construyendo un enfoque coherente para la monitorización, el gobierno y la automatización en todo el ciclo de vida de la IA.

IBM Instana GenAI Observability ya está disponible. Si asiste a la conferencia IBM TechXchange en Orlando, Florida, consiga más información sobre estas capacidades asistiendo a la sesión n.º 3122, "Impulse la eficiencia operativa con observabilidad con IA".

Transforme sus operaciones de IA