La observabilidad de la IA generativa de IBM® Instana incorpora el monitoreo de IA a los potentes flujos de trabajo que los equipos ya utilizan para sus aplicaciones de lote completo. Detecta y mapea automáticamente agentes, cadenas y tareas, y luego conecta sus datos al resto de la infraestructura. Al ofrecer visibilidad integrada de instrucciones, resultados, tokens, latencia, costos y errores, los equipos pueden rastrear rápidamente los problemas, optimizar el rendimiento y gestionar aplicaciones impulsadas por IA con confianza.
Respaldado por los estándares OpenLLMetry, Instana es compatible con los principales proveedores y marcos, incluidos IBM® watsonx.ai, Amazon Bedrock, OpenAI, Anthropic, Groq, DeepSeek, LangChain, LangGraph y CrewAI, así como con entornos de tiempo de ejecución como vLLM y las GPU. Este enfoque de ecosistema abierto garantiza la observabilidad de su IA portátil, consciente de los costos y preparada para la gobernanza, lo que le ofrece una visión general completa, desde el modelo hasta la infraestructura, sin necesidad de cambiar de herramientas.
Características
Instana detecta automáticamente los componentes de IA, como agentes, cadenas y tareas, y muestra cómo están relacionados con los servicios y la infraestructura. Esta capacidad incluye el modelado y el monitoreo de la jerarquía de tareas para visualizar los flujos y localizar con precisión el origen de los problemas.
Realice un seguimiento de cada paso a través de agentes, llamadas a herramientas, recuperaciones e invocaciones de modelos, y correlacione todo ello con las señales APM tradicionales. La investigación de incidentes en tiempo real sitúa los intervalos de IA en la misma línea de tiempo que los microservicios, las bases de datos y las redes.
Realice un seguimiento del uso de tokens y del costo modelado a nivel granular para optimizar los modelos, las instrucciones y la tenencia. Utilice estos insights para evitar excesos y ajustar los gastos a los objetivos de rendimiento.
Capture instrucciones y resultados (con redacción configurable), latencia, rendimiento, tasas de error y metadatos de modelos o proveedores mediante el uso de las convenciones de OpenLLMetry. Estas señales operativas pueden generar paneles y alertas que ayudan a detectar comportamientos de riesgo y los dirigen a los responsables adecuados.
Aproveche la instrumentación nativa de OpenLLMetry (Trace Loop) con cobertura para los principales proveedores de modelos y marcos, GPU y tiempos de ejecución, como vLLM. Mantenga los datos de IA portátiles y neutrales con respecto al proveedor y, al mismo tiempo, unifíquelos con el monitoreo de infraestructura y APM madura de Instana.
Comprenda su intrincado mapeo de infraestructura a través del monitoreo de aplicaciones nativo de la nube en tiempo real
Resuelva los problemas antes de que afecten a sus clientes con toma de decisiones infundidas por IA.
Obtenga una visibilidad mejorada con Instana para aprovechar al máximo su inversión en AWS.