Bibliothèque Python

Vous pouvez inférence et optimiser les modèles de base dans IBM watsonx.ai à l'aide d'un programme à l'aide de la bibliothèque Python .

Consultez la bibliothèque ibm- watsonx -ai Python.

Vous pouvez également utiliser des modèles de base watsonx.ai à partir d'outils tiers, notamment:

LangChain
LlamaIndex

Avant de commencer

Pour vous initier à la bibliothèque Python , vous avez d'abord besoin de données d'identification et d'un ID de projet ou d'un ID de déploiement. Pour plus d'informations, consultez les rubriques suivantes :

Apprendre à partir des exemples de bloc-notes disponibles

Des exemples de bloc-notes sont disponibles que vous pouvez utiliser comme guide lors de la création de vos propres blocs-notes pour effectuer des tâches courantes telles que l'inférence ou l'optimisation d'un modèle de base.

Voir le référentiel Python sample notebooks GitHub .

Utilisation de la bibliothèque Python à partir de votre environnement de développement intégré

La bibliothèque ibm-watsonx-aiPython est disponible sur le référentiel « Package Index » d' Python ( PyPI ). Pour plus de détails, consultez le client API IBM watsonx.ai.

Vous pouvez installer la bibliothèque ibm-watsonx-ai Python dans votre environnement de développement intégré à l'aide de la commande suivante:

pip install ibm-watsonx-ai

Si la bibliothèque est déjà installée, incluez le paramètre -U pour récupérer les mises à jour et utiliser la dernière version de la bibliothèque.

pip install -U ibm-watsonx-ai

Pour gérer les paquets préalables nécessaires à l'utilisation de modèles d'IA via la bibliothèque ` Python `, vous pouvez installer ibm-watsonx-ai la bibliothèque ` Python ` à l'aide de RAG :

pip install ibm-watsonx-ai[rag]

Pour plus d'informations sur l'utilisation d'un fichier de configuration conda pour configurer un environnement virtuel, voir la documentation de votre outil de développement.

Utilisation de la bibliothèque Python du moteur léger watsonx.ai

Vous pouvez utiliser la bibliothèque Python pour travailler avec les modèles de fondation que vous déployez à partir du watsonx.ai.

Lorsque vous utilisez la bibliothèque du moteur léger watsonx.ai, vous ne transmettez pas la valeur project_id ou space_id à l'objet Credentials. Au lieu de cela, vous initialisez l'objet APIClient et utilisez l'objet APIClient pour l'authentification.

Par exemple, le code suivant montre comment vous pouvez spécifier les informations d'identification que vous incluez dans une demande d'API qui utilise les modèles de fondation d'une installation complète :

embedding = Embeddings(
    model_id=EmbeddingTypes.IBM_SLATE_30M_ENG,
    params=embed_params,
    credentials=Credentials(
        url="URL",
        username="user",
        password="***",
        instance_id="openshift",
        version="5.0",
    ),
    project_id="*****",
)

Le code suivant montre comment authentifier une requête qui utilise des modèles de fondation du moteur léger watsonx.ai :

client = APIClient(
    credentials=Credentials(
        url="URL",
        username="user",
        password="***",
        instance_id="openshift",
        version="5.0",
    )
)
embeddings = Embeddings(model_id=EmbeddingTypes.IBM_SLATE_30M_ENG, api_client=client)

Utilisation de LangChain à partir d'un bloc-notes

LangChain est une infrastructure que les développeurs peuvent utiliser pour créer des applications qui intègrent des modèles de langage volumineux. LangChain peut s'avérer utile lorsque vous souhaitez lier plusieurs fonctions. Par exemple, vous pouvez utiliser LangChain dans le cadre d'une tâche de génération d'extension d'extraction (RAG).

Pour plus d'informations, consultez la rubrique « LLMs » > IBM watsonx.ai

Utilisez l'un des exemples de bloc-notes RAG qui optimise LangChain pour en savoir plus. Voir Exemples RAG.

Utilisation des fonctions LlamaIndex à partir d'un bloc-notes

LlamaIndex est une infrastructure permettant de générer des applications de modèle de langage de grande taille. Vous pouvez exploiter les fonctions disponibles dans LlamaIndex, telles que les capacités text-to-SQL ou Pandas DataFrames dans les applications que vous créez avec les modèles de base watsonx.ai.

Pour plus d'informations, voir LLMs > IBM watsonx.ai.

Vous pouvez utiliser les fonctions LlamaIndex à partir d'un bloc-notes dans watsonx.ai.