Suivi des coûts de votre application d'IA

Modifier en ligne

Vous découvrirez comment les coûts sont calculés, affichés et gérés dans les tableaux de bord d'observabilité de l'IA générative d' Instana.

Comment le coût est-il calculé?

Instana L'observabilité de l'IA générative suit et affiche les coûts liés à l'utilisation des grands modèles linguistiques (LLM) en fonction de la consommation de tokens. Comprendre comment ces coûts sont calculés vous permet de :

  • Suivre et optimiser les dépenses liées à l'IA
  • Prendre des décisions éclairées concernant le choix du modèle
  • Établir un budget précis pour les opérations liées à l'IA
  • Identifier les anomalies et les inefficacités en matière de coûts

Modèle de tarification basé sur des jetons

Les coûts liés à l'IA générative sont calculés en fonction de la consommation de jetons à l'aide de la formule suivante :

Total Cost = (Input Tokens × Input Token Price) + (Output Tokens × Output Token Price)

Où :

  • Nombre de tokens : le nombre de tokens contenus dans la requête envoyée au modèle de langage de grande capacité (LLM)
  • Nombre de tokens : nombre de tokens contenus dans la réponse générée par le modèle de langage (LLM)
  • Prix du jeton d'entrée : le coût par jeton d'entrée pour 1 million de jetons
  • Prix du jeton de sortie : le coût par jeton de sortie pour 1 million de jetons

Calcul du coût par modèle

Chaque modèle LLM a sa propre structure tarifaire. Les coûts sont calculés individuellement pour chaque modèle en fonction :

  • Tarification spécifique à chaque modèle : les prix des jetons varient selon les modèles. Par exemple, GPT-4 coûte plus cher que GPT-3.5. 2.
  • Différenciation des types de jetons : les jetons d'entrée et les jetons de sortie ont des prix différents.
  • Agrégation en temps réel : les coûts sont agrégés pour l'ensemble des requêtes adressées à un modèle spécifique.
  • Coût horaire/journalier : coûts regroupés par tranches horaires pour l'analyse des tendances
  • Coûts par application : coûts regroupés par application ou service effectuant des appels LLM

Configuration de la tarification des modèles

Vous pouvez configurer le modèle de tarification.

Accéder à la configuration des tarifs

Pour configurer ou mettre à jour les tarifs du modèle :

  1. Go pour accéder à l'observabilité d' GenAI s via l'interface utilisateur d' Instana.
  2. Cliquez sur l'onglet « Configuration des tarifs ».

Tarifs prédéfinis

Instana fournit une liste prédéfinie des modèles LLM les plus courants, accompagnée des tarifs actuels du marché, notamment :

  • OpenAI modèles ( GPT-4o-mini, GPT-5.1, etc.)
  • Modèles anthropiques (Claude 3 Opus, Claude 3 Sonnet, etc.)
  • IBM watsonx.ai modèles
  • Autres fournisseurs de modèles pris en charge
Les tarifs prédéfinis sont régulièrement mis à jour afin de refléter les taux actuels du marché.
Figure 1. Configuration générative des tarifs des grands modèles de langage (LLM)
Configuration générative des tarifs des modèles de langage à grande échelle (LLM)

Ajouter des tarifs personnalisés pour les modèles

Pour ajouter les tarifs d'un nouveau modèle qui ne figure pas dans la liste prédéfinie :

  1. Sur la page « Configuration des tarifs », cliquez sur Ajouter un tarif de modèle.
  2. Entrez les informations suivantes :
    • Nom du modèle : le nom exact tel qu'il apparaît dans les traces (par exemple, « gpt-4-turbo-preview »).
    • Fournisseur du modèle : la plateforme ou le fournisseur (par exemple, OpenAI, Anthropic, IBM).
    • Nom de la plateforme : pour définir des tarifs spécifiques à une plateforme, cochez la case « Définir des tarifs spécifiques à la plateforme » et saisissez le nom de la plateforme (par exemple, anthropic, bedrock, langchain).
    • Prix du jeton d'entrée : coût par million de jetons d'entrée en dollars américains.
    • Prix du jeton émis : coût en dollars américains par million de jetons émis.
  3. Cliquez sur Enregistrer pour appliquer la configuration.
Figure 2. Ajouter la tarification d'un modèle
Ajouter la tarification d'un modèle

Remplacer la tarification du modèle existant

Pour remplacer la tarification prédéfinie d'un modèle :

  1. Dans l'onglet « Configuration des tarifs », recherchez le modèle que vous souhaitez mettre à jour.
  2. Cliquez sur le nom du modèle.
  3. 3. Dans la section « Tarification des jetons », modifiez les valeurs des champs suivants :
    • Prix d'entrée
    • Prix de sortie
  4. Cliquez sur « Enregistrer » pour appliquer les modifications.
    Remarque : la modification des prix n'a aucune incidence sur les données historiques relatives aux coûts. La nouvelle tarification s'applique uniquement aux données collectées après le changement.
Figure 3 Modifier la tarification du modèle
Modifier la tarification du modèle

Revenir aux tarifs prédéfinis

Si la tarification d'un modèle a été modifiée et que vous souhaitez revenir à la tarification prédéfinie d'origine, procédez comme suit :

  1. Dans l'onglet « Configuration des tarifs », recherchez le modèle dont les tarifs ont été modifiés.
  2. Cliquez sur le nom du modèle. La boîte de dialogue « Modifier les tarifs du modèle » s'affiche.
  3. 3. Dans la section « Réinitialiser les tarifs », sélectionnez. La case à cocher « Je comprends que cette action ne peut pas être annulée ».
  4. 4. Cliquez sur le bouton « Réinitialiser aux prix catalogue ».
  5. 5. Cliquez sur Enregistrer.

Les paramètres de tarification du modèle sont réinitialisés aux valeurs prédéfinies d'origine. Cette mesure s'applique à tous les nouveaux calculs de coûts à compter de maintenant. Cela n'a aucune incidence sur les données de coût historique calculées à l'aide de la tarification redéfinie.

Figure 4 Réinitialiser la tarification
Réinitialiser la tarification

Suppression des tarifs des modèles personnalisés

Pour les modèles que vous avez ajoutés manuellement (modèles sans tarification prédéfinie), vous pouvez supprimer la configuration tarifaire :

  1. Sur la page de configuration des tarifs, repérez le modèle personnalisé que vous souhaitez supprimer.
  2. Cliquez sur l'icône « Supprimer » à côté du modèle.
  3. Confirmez la suppression lorsque la boîte de dialogue s'affiche.

Remarques importantes :

  • Seuls les modèles personnalisés (modèles sans prix prédéfini) peuvent être supprimés
  • Les modèles prédéfinis peuvent uniquement être réinitialisés aux paramètres par défaut; ils ne peuvent pas être supprimés
  • La suppression des tarifs d'un modèle entraîne la disparition des indicateurs de coût pour ce modèle
  • Les données historiques relatives aux coûts du modèle supprimé restent dans le système
  • D'autres indicateurs (jetons, latence, traces) continuent d'être collectés et affichés
Remarque : une fois que les tarifs personnalisés d'un modèle ont été supprimés, vous devez les reconfigurer manuellement si vous souhaitez que les indicateurs de coût s'affichent à nouveau pour ce modèle.

Conséquences des modifications tarifaires

Lorsque les prix sont mis à jour, le comportement suivant se produit.

Lorsque les prix sont mis à jour

Lorsque vous mettez à jour les tarifs des modèles dans la configuration, les modifications suivantes sont apportées.

Effets immédiats :

  • Les nouveaux calculs de coûts s'appuient sur les tarifs actualisés
  • Les widgets du tableau de bord reflètent la nouvelle tarification des données entrantes

Données historiques :

  • Les données historiques relatives aux coûts ne sont pas recalculées automatiquement
  • Les coûts antérieurs restent inchangés, car ils ont été calculés à l'époque
  • L'intégrité de la piste d'audit est préservée et les incohérences dans les données sont évitées

Meilleures pratiques :

  • Modifications des tarifs des documents avec leurs dates d'entrée en vigueur
  • Pensez à exporter les rapports de coûts avant toute mise à jour importante des tarifs
  • Informer les parties prenantes chargées du suivi des coûts des modifications de prix

Lorsque la tarification n'est pas configurée

Si la tarification n'est pas configurée pour un modèle spécifique, le comportement suivant s'applique :

Indicateurs de coûts :

  • Les indicateurs de coût ne s'affichent pas pour ce modèle.
  • Les widgets du tableau de bord qui affichent les coûts ne prennent pas en compte le modèle non configuré
  • Le calcul du coût total ne tient pas compte des demandes relatives à ce modèle

D'autres indicateurs restent disponibles :

  • Le nombre de jetons (en entrée et en sortie) est toujours suivi et affiché
  • Les indicateurs de latence et de performances des requêtes continuent de fonctionner
  • Les données de trace et les journaux ne sont pas affectés

Conséquences sur les tableaux de bord :

  • Les widgets de récapitulatif des coûts peuvent afficher des totaux incomplets
  • Les ventilations des coûts par modèle ne tiennent pas compte des modèles non configurés
  • Les graphiques illustrant l'évolution des coûts peuvent présenter des lacunes ou des valeurs inférieures aux prévisions

Résolution des problèmes liés à la tarification

Vous pourriez rencontrer l'un des problèmes suivants.

Pour les problèmes courants, tels que l'absence d'affichage des indicateurs de coûts, consultez la section Dépannage.

Calculs de coûts erronés

Problème : les coûts affichés ne correspondent pas aux valeurs attendues.

Solution : Pour résoudre ce problème, procédez comme suit :

  1. Vérifiez que les tarifs configurés correspondent aux tarifs actuels du fournisseur
  2. Vérifiez l'unité de prix (par 1 000 jetons ou par million de jetons)
  3. Vérifiez le nombre de jetons pour valider le calcul

Modèles manquants dans la configuration

Problème : un modèle actuellement utilisé ne figure pas dans la liste des configurations.

Solution : Pour résoudre ce problème, procédez comme suit :

  1. Ajoutez le modèle manuellement à l'aide de la fonction « Ajouter une tarification de modèle »
  2. Assurez-vous que le nom du modèle correspond exactement à celui qui apparaît dans les traces
  3. Obtenir des informations sur les tarifs auprès du fournisseur du modèle
  4. Enregistrez et vérifiez la configuration

Écarts de coût historique

Problème : les coûts historiques modifiés après une mise à jour des prix.

Solution : Pour résoudre ce problème, procédez comme suit :

  • Les coûts historiques ne doivent pas changer; s'ils changent, veuillez contacter le service d'assistance d' IBM
  • Exportez régulièrement les rapports de coûts afin de conserver des registres indépendants
  • Utilisez le journal d'audit pour suivre les modifications de configuration

Questions ou problèmes liés aux tarifs

Pour toute question ou tout problème lié à la configuration des tarifs :