La observabilidad de IA generativa de IBM® Instana incorpora la monitorización de IA a los potentes flujos de trabajo que los equipos ya utilizan para sus aplicaciones full stack. Detecta y mapea automáticamente agentes, cadenas y tareas, y luego conecta sus datos al resto de la infraestructura. Al ofrecer visibilidad integrada de instrucciones, outputs, tokens, latencia, costes y errores, los equipos pueden rastrear rápidamente los problemas, optimizar el rendimiento y gestionar aplicaciones impulsadas por IA con confianza.
Respaldado por los estándares OpenLLMetry, Instana es compatible con los principales proveedores y marcos, incluidos IBM® watsonx.ai, Amazon Bedrock, OpenAI, Anthropic, Groq, DeepSeek, LangChain, LangGraph y CrewAI, así como con entornos de ejecución como vLLM y las GPU. Este enfoque de ecosistema abierto garantiza la observabilidad de su IA portátil, consciente de los costes y preparada para el gobierno, lo que le ofrece una visión general completa, desde el modelo hasta la infraestructura, sin necesidad de cambiar de herramientas.
Características
Instana detecta automáticamente los componentes de IA, como agentes, cadenas y tareas, y muestra cómo están relacionados con los servicios y la infraestructura. Esta capacidad incluye el modelado y la monitorización de la jerarquía de tareas para visualizar los flujos y localizar con precisión el origen de los problemas.
Realice un seguimiento de cada paso a través de agentes, llamadas a herramientas, recuperaciones e invocaciones de modelos, y correlacione todo ello con las señales APM tradicionales. La investigación de incidentes en tiempo real sitúa los intervalos de IA en la misma línea de tiempo que los microservicios, las bases de datos y las redes.
Realice un seguimiento del uso de tokens y del coste modelado a nivel granular para optimizar los modelos, las instrucciones y la tenencia. Utilice estos conocimientos para evitar excesos y ajustar los gastos a los objetivos de rendimiento.
Capture instrucciones y outputs (con redacción configurable), latencia, rendimiento, tasas de error y metadatos de modelos o proveedores mediante el uso de las convenciones de OpenLLMetry. Estas señales operativas pueden generar paneles de control y alertas que ayudan a detectar comportamientos de riesgo y los dirigen a los responsables adecuados.
Aproveche la instrumentación nativa de OpenTelemetry (Trace Loop) con cobertura para los principales proveedores de modelos y marcos, GPU y tiempos de ejecución, como vLLM. Mantenga los datos de IA portátiles y neutrales con respecto al proveedor y, al mismo tiempo, unifíquelos con la monitorización de infraestructura y APM madura de Instana.
Comprenda el intrincado mapeo de su infraestructura mediante la monitorización en tiempo real de aplicaciones nativas de la nube.
Resuelva los problemas antes de que afecten a sus clientes con una toma de decisiones basada en IA.
Obtenga una mayor visibilidad con Instana para sacar el máximo partido a su inversión en AWS.