Réglage des modèles de fondation
Personnalisez les modèles de base pour obtenir de meilleurs résultats dans les tâches qui répondent aux besoins spécifiques de votre entreprise.
Les modèles de base sont des modèles d'IA qui sont pré-entraînés sur des téraoctets de données provenant d'Internet et d'autres ressources publiques. Ils sont inégalés dans leur capacité à prédire le prochain meilleur mot et à générer du langage. Si la génération de langage peut être utile pour le brainstorming et stimuler la créativité, les modèles de base doivent généralement être guidés pour accomplir des tâches concrètes. L'ajustement des modèles et d'autres techniques, telles que la génération augmentée par récupération, vous aident à utiliser les modèles de base de manière pertinente pour votre entreprise.
Avec le Tuning Studio, vous pouvez ajuster un modèle de base plus petit afin d'améliorer ses performances dans les tâches de traitement du langage naturel telles que la classification, la synthèse et la génération. Le réglage peut aider un modèle de base plus petit à obtenir des résultats comparables à ceux des modèles plus grands de la même famille. En ajustant et en déployant le modèle plus petit, vous pouvez réduire les coûts d'inférence à long terme.
Tout comme l'ingénierie rapide, le réglage d'un modèle de base vous aide à influencer le contenu et le format de la sortie du modèle de base. Il est essentiel de savoir à quoi s'attendre d'un modèle de base si vous souhaitez intégrer l'étape d'inférence d'un modèle de base dans un flux de travail métier.
Le diagramme suivant illustre comment le réglage d'un modèle de base peut vous aider à guider le modèle pour générer des résultats utiles. Vous fournissez des données étiquetées qui peuvent inclure des informations propriétaires inconnues du modèle de base et qui illustrent le format et le type de sortie que vous souhaitez que le modèle renvoie. Vos exemples donnent au modèle de base un schéma à suivre et à appliquer aux futures productions.
Au lieu de généraliser dans des tâches traditionnelles telles que la traduction de texte et la génération de texte ou de réponses, après avoir ajusté un modèle de base, le résultat est davantage adapté à vos besoins.
- Le texte ou les réponses générés peuvent suivre un style spécifique
- Le modèle ajusté peut résumer ou extraire les informations de la manière que vous souhaitez
- Avec des invites beaucoup plus petites, le modèle optimisé peut classer le texte efficacement
Pour en savoir plus sur le moment où l'ajustement d'un modèle est la bonne approche, voir Quand ajuster un modèle de base.
Modes de travail
Vous pouvez utiliser différentes méthodes pour ajuster les modèles de base dans watsonx.ai, notamment :
- Tuning Studio : Outil d'interface utilisateur graphique pour le réglage d'un modèle de fondation
- Modélisation avec code : méthodes programmatiques pour la modélisation d'un modèle de fondation
Flux de travaux
Quelle que soit la méthode choisie, le processus de réglage d'un modèle de base reste le même. Le réglage d'un modèle de fondation implique les tâches suivantes :
L'ingénieur vous indique les travaux qui conviennent au modèle que vous souhaitez utiliser.
Le réglage ne signifie pas que vous pouvez ignorer complètement l'ingénierie rapide. L'expérimentation est nécessaire pour trouver le modèle de base adapté à votre cas d'utilisation. Faites des essais jusqu'à ce que vous compreniez quels formats d'invite offrent le plus de chances d'obtenir de bons résultats du modèle. Vous pouvez utiliser l' Prompt Lab pour soumettre des invites de test.
Trouvez le modèle de fondation le plus grand qui convient le mieux à la tâche.
Créer des données de formation à utiliser pour le réglage des modèles.
Créer une expérience de réglage pour régler le modèle.
Évaluer le modèle ajusté.
Déployer le modèle ajusté.
Soumettre des demandes d'inférence au modèle optimisé.