Stimulez l’efficacité opérationnelle grâce à GenAI Observability

Cette annonce fait suite à la disponibilité de l’aperçu d’IBM Instana Intelligent Incident Investigation, qui est conçu pour utiliser l’IA agentique et fournir une identification plus rapide et plus complète des causes racines. À mesure que les entreprises dimensionnent de grands modèles de langage et des flux de travail, les défis opérationnels peuvent se multiplier : débogage de pipelines d’IA opaques, contrôle des coûts de jetons imprévisibles et garantie d’une expérience client fiable. Instana GenAI Observability répond directement à ces problèmes avec une solution unifiée, adaptée à l’entreprise.

Les services informatiques des entreprises sont déjà aux prises avec le poids de la complexité. Un rapport récent souligne que deux des trois tâches les plus importantes à accomplir en matière d'observabilité sont l'adaptation des outils d'observabilité aux nouveaux modèles architecturaux et la garantie d'une couverture d'observabilité cohérente dans de nombreux environnements.

En outre, l’IA a complètement redéfini ce qu’est une application. Les applications ne sont plus bien définies et pilotées par les utilisateurs avec des résultats prédéfinis. Elles sont autogérés, axés sur les objectifs et intègrent le raisonnement contextuel. Les enjeux sont importants. Le coût moyen des temps d’arrêt informatiques non planifiés est de 14 056 USD par minute, soit entre 218 000 et 1,425 million USD de l’heure, en fonction de la taille de l’entreprise. Par ailleurs, sans visibilité sur les systèmes pilotés par l'IA, les entreprises s'exposent à des coûts exorbitants et à des atteintes à leur réputation.

Les entreprises hautement automatisées montrent la voie à suivre en utilisant des outils d'observabilité qui peuvent potentiellement permettre une réduction des coûts informatiques et un retour sur investissement élevé de la transformation numérique alimentée par l'IA.

IBM Instana GenAI Observability est conçue pour les ingénieurs de plateformes, les équipes d’ingénierie de fiabilité des sites et informatiques, ainsi que pour les cadres qui doivent trouver un équilibre entre fiabilité et coût des fonctionnalités d'IA. Elle centralise la télémétrie spécifique à l’IA avec le reste de la pile informatique :

• caractère débogable des flux de travail de l'IA : traces de bout en bout des agents, des appels d'outils, des étapes de récupération, des réessais, des invites et des productions.
• indicateurs clés de performance opérationnelle : latence, taux d'erreur et débit via des jetons consommés par demande, service, modèle ou locataire.
• gouvernance des coûts : les premiers utilisateurs soulignent la capacité d'Instana à éviter une « facture astronomique » en matière de jetons en attribuant les dépenses aux charges de travail et aux locataires.
• contexte unifié : la télémétrie de l’IA n’est pas cloisonnée : elle est profondément fusionnée avec des applications et une infrastructure conçues pour une analyse plus rapide des causes racines.

L'environnement de l'observabilité se transforme, de nombreux fournisseurs étendant la visibilité de l'IA à leurs outils. Nous pensons qu’Instana se distingue par quatre facteurs clés de différenciation :

1. contexte de pile complète en temps réel : un seul produit intègre les applications, l’infrastructure et les signaux d’IA.
2. approche axée open source : l’instrumentation via OpenLLMetry maintient la portabilité des données et la neutralité vis-à-vis des fournisseurs.
3. large couverture de l’écosystème : d’IBM watsonx.ai et d’Amazon Bedrock aux cadres agentiques tels que LangChain et CrewAI, en passant par les bases de données vectorielles telles que Milvus DB, et les principaux fournisseurs de modèles de langage  
4. vues de dépannage de nouvelle génération soutenues par IBM Research : des visualisations spécialement conçues révèlent les modèles de performance de l'IA, à l'aide d'une technologie brevetée IBM.

Les clients veulent un endroit unique pour visualiser les performances de l'IA en production, des invites aux jetons en passant par la latence, sans perdre le contexte de bout en bout. C’est exactement ce que propose Instana GenAI Observability.

Pour les équipes utilisant une solution d'observabilité de pointe, les bénéfices peuvent être importants : réduction du délai moyen de résolution, moins de coûts imprévus. Pour les dirigeants, une telle solution peut soutenir la gouvernance et l'intelligence opérationnelle pour dimensionner l'IA. Pour les secteurs confrontés à une complexité informatique croissante, il représente un moyen de limiter les coûts tout en accélérant l’innovation.

À l’avenir, l’observabilité en temps réel d’Instana occupera une place importante dans la stratégie globale d’IBM en matière d’IA. En s’appuyant sur des offres telles que watsonx.governance et watsonx Orchestrate, qui proposent des agents personnalisables et propres à un domaine, IBM élabore une approche cohérente en matière de surveillance, de gouvernance et d’automatisation tout au long du cycle de vie de l’IA.

IBM Instana GenAI Observability est désormais disponible. Si vous assistez à la conférence IBM TechXchange à Orlando (Floride), pour en savoir plus sur ces capacités, assistez à la séance n° 3122, « Stimulez l’efficacité opérationnelle grâce à l’observabilité alimentée par l’IA ».

Transformez vos activités en matière d’IA