Agents d'observation développés avec Langflow

Modifier en ligne

Langflow est un framework visuel open source permettant de créer, de tester et de déployer des applications basées sur des modèles linguistiques de grande envergure (LLM). Il offre une interface de type glisser-déposer permettant de concevoir des flux de travail complexes, d'intégrer des outils externes et des API, et de mener des expériences sans avoir à se lancer dans un codage fastidieux.

Instana offre des fonctionnalités d'observabilité pour les applications Langflow, permettant ainsi de surveiller en temps réel l'exécution des workflows, les interactions avec les modèles de langage de grande envergure (LLM) et les indicateurs de performance.

Mise en place d'outils de surveillance pour les applications Langflow

Modifier en ligne

Les applications Langflow sont configurées à l'aide de variables d'environnement. Suivez ces étapes pour activer la fonctionnalité d'observabilité d' Instana :

1. Configurer les variables d'environnement

Modifier en ligne

Dans le dossier racine de votre application Langflow, créez ou modifiez le .env fichier en y indiquant la configuration adaptée à votre mode de déploiement.

Pour le mode agent (envoi de données via un agent d' Instana ) :

TRACELOOP_API_KEY=tl_dummy_1234567890abcdef1234567890abcdef
OTEL_RESOURCE_ATTRIBUTES="INSTANA_PLUGIN=genai"
TRACELOOP_BASE_URL=<instana-agent-host>:4317
TRACELOOP_HEADERS="x-instana-key= "
OTEL_EXPORTER_OTLP_INSECURE=true

Remplacez <instana-agent-host> par le nom d'hôte ou l'adresse IP de votre agent Instana. Si Langflow s'exécute dans un conteneur, utilisez host.docker.internal.

Remarque :

Le TRACELOOP_API_KEY est requis par le SDK Traceloop, mais n'est pas utilisé lors de l'envoi de données vers Instana. Vous pouvez utiliser la clé factice indiquée ci-dessus.

Pour le mode sans agent (envoi direct des données au serveur d' Instana ) :

TRACELOOP_API_KEY=tl_dummy_1234567890abcdef1234567890abcdef
OTEL_RESOURCE_ATTRIBUTES="INSTANA_PLUGIN=genai"
TRACELOOP_BASE_URL=<instana-otlp-endpoint>:4317
TRACELOOP_HEADERS="x-instana-key=<your_instana_key>,x-instana-host=<instana-host>"
OTEL_EXPORTER_OTLP_INSECURE=false

Remplacez :

  • <instana-otlp-endpoint> avec votre point de terminaison backend Instana

  • <your_instana_key> avec votre clé d' Instana

  • <instana-host> avec votre animateur d' Instana

Remarque :

L'adresse du point de terminaison URL varie selon les régions. Pour les points de terminaison régionaux, voir Envoi de données d' OpenTelemetry s vers le backend Instana.

2. Démarrer Langflow à l'aide de variables d'environnement

Modifier en ligne

Lancez votre application Langflow en utilisant les variables d'environnement du .env fichier :

uv run langflow run --env-file .env

Sinon, si vous avez installé Langflow de manière globale :

langflow run --env-file .env

3. Créer et exécuter un flux

Modifier en ligne

Pour générer des données de télémétrie :

  1. Ouvrez Langflow dans votre navigateur (généralement à l'adresse http://localhost:7860)

  2. Sélectionnez le projet de démarrage « Simple Agent » ou créez votre propre flux

  3. Configurez le composant agent avec votre clé d' API ation LLM

  4. Cliquez sur « Playground » pour tester votre flux

  5. Posez plusieurs questions à l'agent afin de générer du trafic test :

    • « Quelle est la capitale de l'Inde? »

    • « Effectuer l'addition 2 + 2 » (utilise le composant calculatrice)

    • « Quel temps fait-il aujourd'hui? »

4. Consulter les données dans l' Instana

Modifier en ligne

Une fois les flux exécutés dans Langflow, les données s'affichent dans le tableau de bord d'observabilité de l'IA générative d' Instana, qui présente l'exécution des flux de travail, les interactions avec les modèles de langage (LLM) et les appels d'outils.

Traitement des incidents

Modifier en ligne

Pour les problèmes courants, tels que l'absence d'affichage des tracés ou des données, consultez la section Dépannage.

Erreurs de connexion spécifiques à Langflow

Modifier en ligne

Problème : Langflow affiche des erreurs de connexion lors de la tentative d'envoi de données télémétriques.

Solution :

Pour le mode agent :

  • Vérifiez que l'agent « Instana » est en cours d'exécution

  • Vérifiez que <instana-agent-host> est correct

  • Si vous utilisez Docker, assurez-vous que le host.docker.internal site est accessible

Pour le mode sans agent :

  • Vérifiez que l'adresse de l'endpoint du backend URL est correcte

  • Vérifiez que votre clé d' Instana n est valide

  • Assurez-vous que le port 4317 est accessible

Avertissements concernant une clé d' API Traceloop non valide

Modifier en ligne

Problème : des avertissements concernant une clé d' API ation Traceloop non valide apparaissent dans les journaux.

Solution : ce comportement est normal lorsque l'on utilise la clé factice API. Vous pouvez ignorer ces avertissements sans risque tant que les données sont transmises à Instana. La clé factice suffit pour l'intégration d' Instana.