Déploiement de services d'IA avec code

Vous pouvez créer un service d'IA personnalisé qui est adapté à votre application d'IA générative à partir de la base. Par exemple, si vous déployez un actif qui utilise la génération augmentée par récupération (RAG), vous pouvez capturer la logique de récupération des réponses à partir des documents de base dans le service d'IA.

Méthodes de déploiement des services d'IA avec code

Vous pouvez utiliser les méthodes suivantes pour coder et déployer vos services d'IA :

  1. Codage et déploiement manuels des services d'IA

    Vous pouvez créer un carnet de notes contenant le service AI et les connexions au sein du projet. Le service d'IA capture la logique de votre application RAG et contient la fonction de génération, qui est une unité de code déployable. La fonction de génération est promue dans l'espace de déploiement, qui est utilisé pour créer un déploiement. Le déploiement est exposé en tant que point de terminaison de l'API REST auquel d'autres applications peuvent accéder. Vous pouvez envoyer une demande au point de terminaison de l'API REST pour utiliser le service d'IA déployé pour l'inférence. Le service d'IA déployé traite la demande et renvoie une réponse.

    Pour plus d'informations, voir Codage et déploiement manuels des services d'IA.

  2. Codage et déploiement de services d'IA avec des modèles

    Vous pouvez utiliser des modèles prédéfinis pour déployer vos services d'IA dans watsonx.ai. Les modèles de services d'IA fournissent une base pré-construite pour les applications d'IA, permettant aux développeurs de se concentrer sur la logique centrale de leur application, plutôt que de partir de zéro. En fournissant une structure, une configuration et un ensemble d'outils prédéfinis, les modèles de services d'IA simplifient le processus de déploiement des services d'IA, réduisent le risque d'erreurs et améliorent l'efficacité globale et la cohérence du développement et du déploiement de l'IA.

    Pour plus d'informations, voir Codage et déploiement de services d'IA avec des modèles.

Choisir la bonne méthode de déploiement

Il existe deux approches pour déployer des services d'IA : le codage manuel et les modèles de développeurs. Chaque approche a ses avantages et ses inconvénients. Le choix de la méthode de déploiement dépend des besoins et des exigences spécifiques du projet. Les modèles de développeur conviennent aux déploiements simples avec des besoins de personnalisation limités, tandis que le codage manuel convient aux déploiements complexes avec des besoins de personnalisation élevés.

Le tableau suivant présente un résumé comparatif des trois approches de déploiement des services d'IA avec code :

Différences essentielles
Approche Facilité d'utilisation Personnalisation Extensibilité Délai de mise sur le marché
Codage manuel Difficile Plein Elevé Lent
Modèles de développeur Simple Limité Limité Rapide

En savoir plus