Technologies prises en charge

Modifier en ligne

Instana L'observabilité de l'IA générative prend en charge un large éventail de frameworks d'IA, de fournisseurs de modèles, de plateformes d'infrastructure et de technologies connexes.

Cadres d'agents IA

Surveiller les applications développées à l'aide des principaux frameworks d'agents IA :

Afficher tous les frameworks d'agents IA

Fournisseurs LLM

Suivre les interactions avec les modèles de langage de grande envergure (LLM) chez plusieurs fournisseurs :

Voir tous les prestataires de formations LLM

Infrastructure et hébergement

Surveillez l'infrastructure qui héberge vos applications d'IA :

  • Surveillance des GPU : surveillez les indicateurs des GPU d' NVIDIA s à l'aide de DCGM

  • vLLM : Surveillance des serveurs d' vLLM

Voir toutes les options d'infrastructure

Bases de données vectorielles

Surveiller les opérations sur la base de données vectorielle :

  • Milvus : Surveiller les requêtes et les opérations sur la base de données vectorielle Milvus

Afficher toutes les bases de données vectorielles

Protocole de contexte de modèle (MCP)

Surveiller les applications d'IA à l'aide du protocole Model Context Protocol :

Rubriques connexes

  • Pour commencer : mettre en place l'observabilité de l'IA générative

  • Fonctionnalités : Découvrez comment utiliser les fonctionnalités d'observabilité de l'IA générative

  • Calcul des coûts : configurer la tarification LLM pour le suivi des coûts