Python -Bibliothek
Sie können Basismodelle in IBM watsonx.ai über das Programm mithilfe der Python -Bibliothek inferenzieren und optimieren.
Siehe die Bibliothek „ibm- watsonx -ai- Python “.
Sie können auch mit watsonx.ai -Basismodellen von Tools anderer Anbieter arbeiten, z. B.:
Vorbereitende Schritte
Für den Einstieg in die Python -Bibliothek benötigen Sie zunächst Berechtigungsnachweise und eine Projekt-ID oder Bereitstellungs-ID. Weitere Informationen finden Sie in den folgenden Themen:
Aus verfügbaren Beispielnotebooks lernen
Es sind Beispielnotebooks verfügbar, die Sie als Leitfaden für die Erstellung eigener Notebooks verwenden können, um allgemeine Tasks wie Inferenzen oder Optimierung eines Basismodells auszuführen.
Weitere Informationen finden Sie im Repository Python -Beispielnotebooks GitHub .
Python -Bibliothek aus Ihrer IDE verwenden
Die ibm-watsonx-ai Bibliothek „ Python “ ist im Repository des „ Python Package Index“ ( PyPI ) verfügbar. Weitere Informationen finden Sie unter „ IBM “ und „ watsonx.ai API Client “.
Sie können die ibm-watsonx-ai Python -Bibliothek in Ihrer integrierten Entwicklungsumgebung installieren, indem Sie den folgenden Befehl verwenden:
pip install ibm-watsonx-ai
Wenn die Bibliothek bereits installiert ist, schließen Sie den Parameter -U ein, um alle Aktualisierungen zu übernehmen und mit der neuesten Version der Bibliothek zu arbeiten.
pip install -U ibm-watsonx-ai
Um die erforderlichen Pakete zu verwalten, die für die Arbeit mit KI-Modellen unter Verwendung der Bibliothek „ Python “ benötigt werden, können Sie die Bibliothek „ Python “ mit RAG installieren ibm-watsonx-ai :
pip install ibm-watsonx-ai[rag]
Weitere Informationen zur Verwendung einer Conda-Konfigurationsdatei zum Einrichten einer virtuellen Umgebung finden Sie in der Dokumentation zu Ihrem Entwicklungstool.
Verwendung der Python-Bibliothek aus der watsonx.ai Lightweight Engine
Sie können die Python-Bibliothek verwenden, um mit Foundation-Modellen zu arbeiten, die Sie von der watsonx.ai Lightweight Engine bereitstellen.
Wenn Sie die Bibliothek aus der watsonx.ai Lightweight-Engine verwenden, übergeben Sie den project_id oder space_id Wert nicht an das Credentials Objekt. Stattdessen initialisieren Sie das APIClient-Objekt und verwenden das APIClient-Objekt für die Authentifizierung.
Der folgende Code zeigt beispielsweise, wie Sie Anmeldeinformationen angeben können, die Sie in eine API-Anforderung aufnehmen, die Foundation-Modelle aus einer vollständigen Installation verwendet:
embedding = Embeddings(
model_id=EmbeddingTypes.IBM_SLATE_30M_ENG,
params=embed_params,
credentials=Credentials(
url="URL",
username="user",
password="***",
instance_id="openshift",
version="5.0",
),
project_id="*****",
)
Der folgende Code zeigt, wie eine Anfrage authentifiziert wird, die Foundation-Modelle aus der watsonx.ai Lightweight Engine verwendet:
client = APIClient(
credentials=Credentials(
url="URL",
username="user",
password="***",
instance_id="openshift",
version="5.0",
)
)
embeddings = Embeddings(model_id=EmbeddingTypes.IBM_SLATE_30M_ENG, api_client=client)
Mit LangChain über ein Notebook arbeiten
LangChain ist ein Framework, mit dem Entwickler Anwendungen erstellen können, die große Sprachmodelle integrieren. LangChain kann nützlich sein, wenn Sie zwei oder mehr Funktionen miteinander verknüpfen wollen. Sie können beispielsweise LangChain als Teil einer RAG-Task (Retrieval Augmented Generation) verwenden.
Weitere Informationen finden Sie unter LLMs > IBM watsonx.ai
Verwenden Sie eines der RAG-Beispielnotebooks, das LangChain nutzt, um weitere Informationen zu erhalten. Siehe RAG-Beispiele.
Mit LlamaIndex -Funktionen über ein Notebook arbeiten
LlamaIndex ist ein Framework für die Erstellung großer Sprachmodellanwendungen. Sie können die Funktionen von LlamaIndex, wie Text-to-SQL oder Pandas DataFrames in Anwendungen nutzen, die Sie mit watsonx.ai Foundation Models erstellen.
Weitere Informationen finden Sie unter LLMs > IBM watsonx.ai.
Sie können mit LlamaIndex -Funktionen in einem Notebook in watsonx.aiarbeiten.