Impulse la eficiencia operativa con la observabilidad de la IA generativa

Ilustración de lo que parecen ser raíces o ríos y arroyos en azul con fondo terroso

Autor

Bill Lobig

VP of Product Management

IBM Automation

En la conferencia IBM TechXchange en Orlando, IBM anunció la disponibilidad general de IBM Instana GenAI Observability, un avance en la observabilidad diseñado para la era de la IA generativa.

Este anuncio sigue a la disponibilidad preliminar de IBM® Instana Intelligent Incident Investigation, que está diseñada para utilizar IA agéntica, para proporcionar una identificación de causa principal más rápida y completa. A medida que las organizaciones escalan modelos de lenguaje grandes (LLM) y flujos de trabajo de agentes a producción, los desafíos operativos pueden multiplicarse: depurar pipelines de IA opacos, controlar costos impredecibles de token y garantizar experiencias del cliente confiables. Instana GenAI Observability aborda directamente estos problemas con una solución unificada y lista para la empresa con IA generativa.

Por qué es importante ahora la observabilidad de la IA

La TI empresarial ya está teniendo dificultades con el peso de la complejidad con un informe reciente que muestra dos de las tres tareas más importantes relacionadas con la observabilidad para completar, que incluyen adaptar las herramientas de observabilidad para manejar nuevos patrones arquitectónicos y asegurar una cobertura de observabilidad constante en múltiples entornos.

Además, la IA ha redefinido por completo lo que es una aplicación. Las aplicaciones ya no tienen un buen alcance y están impulsadas por el usuario con resultados predefinidos; son autodirigidas, están orientadas a objetivos e incluyen razonamiento contextual. Hay mucho en juego. El costo promedio del tiempo de inactividad de TI no planificado es de 14 056 USD por minuto, lo que equivale a 218 000-1.425 millones de dólares por hora dependiendo del tamaño de la empresa, y sin visibilidad de los sistemas impulsados por IA, las organizaciones pueden arriesgarse a costos descontrolados y daños a la reputación.

Las empresas altamente automatizadas muestran el camino a seguir al utilizar herramientas de observabilidad que potencialmente pueden lograr una reducción en los costos de TI y un alto retorno de la inversión (ROI) de la transformación digital impulsada por IA.

Qué ofrece IBM Instana GenAI Observability

IBM Instana GenAI Observability está diseñado para ingenieros de plataformas, equipos de ingeniería de confiabilidad de sitios (SRE) y operaciones de TI, y ejecutivos que deben equilibrar la confiabilidad y el costo de las características de IA generativa. Centraliza la telemetría específica de IA junto con el resto de la pila de TI:

  • Depuración de flujos de trabajo de IA: seguimientos de extremo a extremo de agentes, llamadas a herramientas, pasos de recuperación, reintentos, instrucciones y resultados.
  • KPI operativos: latencia, tasas de error y rendimiento a través de tokens consumidos por solicitud, servicio, modelo o inquilino.
  • Gobernanza de costos: los primeros usuarios destacan la capacidad de Instana para evitar el “impacto en la factura” de los tokens al atribuir el gasto a las cargas de trabajo y los inquilinos.
  • Contexto unificado: la telemetría de IA no está aislada, sino que está profundamente fusionada con la aplicación y la infraestructura diseñadas para un análisis más rápido de la causa principal.

Diferenciadores que distinguen a Instana

El escenario de la observabilidad se está intensificando y muchos proveedores están incorporando visibilidad de IA en sus herramientas. Creemos que Instana se distingue por cuatro diferenciadores principales:

  1. Contexto de paquete completo en tiempo real: un producto integra aplicaciones, infraestructura y señales de IA.
  2. Primer enfoque de código abierto: la instrumentación a través de OpenLLMetry mantiene los datos portátiles y neutrales al proveedor.
  3. Amplia cobertura del ecosistema: desde IBM watsonx.ai y Amazon Bedrock hasta marcos de trabajo de agentes como LangChain y CrewAI, pasando por bases de datos vectoriales como Milvus DB, junto con los principales proveedores de modelos de lenguaje grandes.  
  4. Vistas de resolución de problemas de próxima generación respaldadas por IBM® Research: las visualizaciones especialmente diseñadas revelan patrones de rendimiento de IA utilizando tecnología patentada de IBM.

Los clientes quieren un único lugar para ver el rendimiento de la IA en producción, desde instrucciones hasta tokens y latencia, sin perder el contexto de extremo a extremo. Eso es exactamente lo que ofrece Instana GenAI Observability.

Impacto en la empresa

Para los equipos que utilizan una solución de observabilidad líder, la recompensa puede ser significativa: reducción del tiempo medio de resolución (MTTR), menos costos inesperados. Para los ejecutivos, una solución de este tipo puede respaldar la gobernanza y la inteligencia operativa para escalar la IA. Y para las industrias que enfrentan una creciente complejidad de TI, representa una forma de abordar los costos y acelerar la innovación.

De cara al futuro, la observabilidad en tiempo real de Instana es una parte importante de la estrategia más amplia de IA de IBM. Junto con ofertas como watsonx.governance y watsonx Orchestrate, que proporcionan agentes personalizables y específicos de dominio, IBM está creando un enfoque coherente para el monitoreo, la gobernanza y la automatización en todo el ciclo de vida de la IA.

Comience hoy mismo

IBM Instana GenAI Observability ya está disponible. Si asiste a la conferencia IBM TechXchange en Orlando, FL aprenda más sobre estas capacidades asistiendo a la sesión 3122, “Genere eficiencia operativa con observabilidad impulsada por IA”.

Transforme sus operaciones de IA