Configuration de modèles supplémentaires dans la solution BI d' watsonx

Vous pouvez choisir d'installer d'autres modèles pour modifier la manière dont watsonx BI gère certaines charges de travail.

Avant de commencer

Le service BI d' watsonx s doit être installé. Pour plus d'informations sur les ressources requises pour les différents modèles, consultez la section « Configuration GPU requise pour les modèles ».

A propos de cette tâche

Les seuls modèles requis pour la BI d' watsonx s sont granite-3-8b-instruct et ibm-slate-30m-english-rtrvr. Vous pouvez choisir d'ajouter les configurations optionnelles suivantes :
ibm-slate-30m-english-rtrvr sur le GPU
Par défaut, le ibm-slate-30m-english-rtrvr modèle s'exécute sur le processeur. Si vous avez des charges de travail importantes, vous pouvez choisir d'exécuter le ibm-slate-30m-english-rtrvr modèle sur un GPU.
OpenAI gpt-oss-120b
Le modèle « gpt-oss-120bOpenAI » est un modèle en option. Si vous souhaitez effectuer des raisonnements avancés et personnalisables dans le cadre de requêtes BI complexes, vous pouvez installer le gpt-oss-120b modèle.
Correctif 1 : pour les tâches de génération SQL et autres fonctions basées sur des modèles de langage dans la solution BI d' watsonx, vous pouvez utiliser le correctif OpenAIgpt-oss-120b.

Procédure

Pour installer des modèles optionnels sur la solution BI d' watsonx :

  1. Vérifiez quels modèles sont installés :
    oc get watsonxaiifm watsonxaiifm-cr \
-n ${PROJECT_CPD_INST_OPERANDS} \
-o jsonpath="{.spec.install_model_list}"
  2. Installez les modèles de votre choix sur BI d' watsonx :
    • Exécutez le ibm-slate-30m-english-rtrvr modèle sur le GPU en modifiant la ressource personnalisée :
      oc patch watsonxaiifm watsonxaiifm-cr \
--namespace=${PROJECT_CPD_INST_OPERANDS} \
--type=merge \
--patch='{"spec":{"ibm_slate_30m_english_rtrvr_replicas": 1, "ibm_slate_30m_english_rtrvr_resources": {"limits": {"cpu": "2", "memory": "4Gi", "nvidia.com/gpu": 1}, "requests": {"cpu": "1", "memory": "4Gi", "nvidia.com/gpu": 1}}}}'
    • Installez le modèle « gpt-oss-120bOpenAI » :
      MODEL_LIST="${MODEL_LIST}, \"gpt-oss-120b\""
  3. Mettre à jour la ressource watsonxaiifm personnalisée :
    oc patch watsonxaiifm-cr \
-n ${PROJECT_CPD_INST_OPERANDS} \
-\-type=merge \
-\-patch="{\"spec\":{\"installed_model_list\":[${MODEL_LIST}]}}"
  4. Vérifiez que les modèles ont bien été ajoutés à la spec section de la ressource watsonxaiifm personnalisée :
    oc get watsonxaiifm watsonxaiifm-cr \
-n ${PROJECT_CPD_INST_OPERANDS} \
-o jsonpath="{.spec.install_model_list}"

Etape suivante

Si vous avez installé le modèle « OpenAI gpt-oss-120b », sélectionnez-le en ouvrant « watsonx BI », puis en accédant à «Configuration et paramètres» > «Paramètres du modèle ».

Une fois que vous avez installé et sélectionné vos modèles, BI d' watsonx est prêt à l'emploi. Pour commencer à utiliser la solution BI d' watsonx, consultez la section « Premiers pas avec la solution BI d' watsonx ».