Gere eficiência operacional com a observabilidade da IA generativa

Este anúncio segue a disponibilidade prévia do IBM Instana Intelligent Incident Investigation, que é construído para usar IA agêntica, para fornecer uma identificação de causa raiz mais rápida e abrangente. À medida que as organizações escalam grandes modelos de linguagem (LLMs) e fluxos de trabalho agênticos em produção, os desafios operacionais podem se multiplicar: depurar pipelines de IA opacos, controlar custos imprevisíveis de tokens e garantir experiências do cliente confiáveis. O Instana GenAI Observability lida diretamente com esses problemas com uma solução unificada e pronta para empresas.

A TI empresarial já está sofrendo com o peso da complexidade, com um relatório recente que mostra duas das três tarefas mais importantes relacionadas à observabilidade a serem concluídas, incluindo a adaptação das ferramentas de observabilidade para lidar com novos padrões arquitetônicos e a garantia de uma cobertura consistente de observabilidade em diversos ambientes.

Além disso, a IA redefiniu completamente o que é uma aplicação. As aplicações já não têm um bom escopo e são orientadas pelo usuário com resultados predefinidos; são autodirecionadas, têm objetivos e incluem raciocínio contextual. As apostas são altas. O custo médio do downtime de TI não planejado é de USD 14,056 por minuto, equivalendo a USD 218 mil a 1.425 milhão por hora, dependendo do tamanho da empresa. E, sem visibilidade dos sistemas orientados por IA, as organizações correm o risco de terem custos descontrolados e danos à reputação.

Empresas altamente automatizadas mostram o caminho a seguir, ao usar ferramentas de observabilidade que podem alcançar uma redução nos custos de TI e um alto ROI a partir da transformação digital impulsionada por IA.

O IBM Instana GenAI Observability é desenvolvido para engenheiros de plataformas, equipes de SRE e operações de TI, e executivos que precisam equilibrar confiabilidade e custo das funcionalidades de IA. Ela centraliza a telemetria específica de IA junto com o restante do stack de TI:

• Capacidade de depuração de fluxos de trabalho de IA: rastreios de ponta a ponta de agentes, chamadas de ferramentas, etapas de recuperação, novas tentativas, prompts e saídas.
• KPIs operacionais: latência, taxas de erro e taxa de transferência por meio de tokens consumidos por solicitação, serviço, modelo ou locatário.
• Governança de custos: os primeiros adotantes destacam a capacidade do Instana de evitar o “choque nas contas” de tokens, ao atribuir gastos a cargas de trabalho e locatários.
• Contexto unificado: a telemetria de IA não está isolada: ela está profundamente integrada com aplicações e infraestrutura projetadas para uma análise mais rápida da causa raiz.

O cenário da observabilidade está esquentando, com muitos fornecedores incorporando visibilidade da IA em suas ferramentas. Acreditamos que o Instana se destaca com quatro diferenciais principais:

1. Contexto full-stack em tempo real: um produto integra aplicações, infraestrutura e sinais de IA.
2. Abordagem de código aberto em primeiro lugar: a instrumentação por meio do OpenLLMetry mantém os dados portáteis e neutros em relação a fornecedores.
3. Ampla cobertura do ecossistema: desde o IBM watsonx.ai e Amazon Bedrock até estruturas agênticas como LangChain e CrewAI, e bancos de dados vetoriais como Milvus DB, juntamente com os principais provedores de modelos de linguagem  
4. Visualizações de solução de problemas de última geração apoiadas pela IBM Research: visualizações criadas especificamente revelam padrões de desempenho de IA, usando tecnologia patenteada da IBM.

Os clientes querem um único local para visualizar o desempenho da IA em produção (desde prompts até tokens e latência) sem perder o contexto de ponta a ponta. É exatamente isso que o Instana GenAI Observability oferece.

Para equipes que usam uma solução de observabilidade líder, o retorno pode ser significativo: tempo médio de resolução (MTTR) reduzido, menos custos surpresa. Para os executivos, essa solução pode facilitar a governança e a inteligência operacional para escalar a IA. E para setores que enfrentam o aumento da complexidade de TI, isso representa uma forma de lidar com os custos e, ao mesmo tempo, acelerar a inovação.

Olhando para o futuro, a observabilidade em tempo real do Instana é uma parte importante da estratégia mais ampla de IA da IBM. Com ofertas como o watsonx.governance e watsonx Orchestrate, que oferecem agentes personalizáveis em domínios específicos, a IBM está construindo uma abordagem consistente para o monitoramento, a governança e a automação em todo o ciclo de vida da IA.

O IBM Instana GenAI Observability já está disponível. Se você estiver participando da conferência IBM TechXchange em Orlando, FL, saiba mais sobre esses recursos participando da sessão nº 3122, "Gere eficiência operacional com a observabilidade impulsionada por IA".

Transforme suas operações de IA