Installieren IBM watsonx.ai
Ein Instanzadministrator kann installieren watsonx.aiIBM.
- Wer muss diese Aufgabe erledigen?
Instanzadministrator Um zu installieren watsonx.aiIBM, müssen Sie Inst anzadministrator sein. Ein Instanzadministrator hat die Berechtigung, Software in den folgenden Projekten zu installieren:
- Das Betreiberprojekt für die Instanz
Die Operatoren für diese Instanz von IBMwatsonx.ai sind im Projekt „Operatoren” installiert.
In den Installationsbefehlen bezieht sich die
${PROJECT_CPD_INST_OPERATORS}Umgebungsvariable auf das Projekt des Betreibers.- Das Operandenprojekt für die Instanz
Die benutzerdefinierten Ressourcen für und control plane IBMwatsonx.ai werden im Operandenprojekt installiert.
In den Installationsbefehlen bezieht sich die
${PROJECT_CPD_INST_OPERANDS}Umgebungsvariable auf das Projekt „operands“.
- Wann müssen Sie diese Aufgabe erledigen?
Überprüfen Sie die folgenden Optionen, um festzustellen, ob Sie diese Aufgabe ausführen müssen:
- Wenn Sie mehrere Dienste gleichzeitig installieren möchten, befolgen Sie stattdessen die Schritte unter „Durchführen einer Batch-Installation von Lösungen und Diensten “.
- Wenn Sie nicht als Teil einer IBMwatsonx.ai Batch-Installation installiert haben, führen Sie diese Aufgabe aus, um zu Ihrer IBMwatsonx.ai Umgebung hinzuzufügen.
Wiederholen Sie diesen Vorgang nach Bedarf. Wenn Sie für mehrere Instanzen von IBM® Software Hubverantwortlich sind, können Sie diesen Vorgang wiederholen, um weitere Instanzen von IBMwatsonx.ai auf dem Cluster zu installieren.
Erforderliche Informationen zum Ausführen dieser Task
Lesen Sie die folgenden Informationen, bevor Sie die Installation durchführen watsonx.aiIBM :
- Versionsvoraussetzungen
Alle Komponenten, die mit einer Instanz von verbunden IBM Software Hub sind, müssen in derselben Version installiert sein. Wenn beispielsweise in IBM Software Hubcontrol plane Version 5.3.1 installiert ist, müssen Sie IBM watsonx.ai in Version installieren 5.3.1.
- Umgebungsvariablen
Die Befehle in dieser Aufgabe verwenden Umgebungsvariablen, sodass Sie die Befehle genau wie angegeben ausführen können.
- Wenn Sie nicht über das Skript verfügen, das die Umgebungsvariablen definiert, lesen Sie den Abschnitt „Einrichten der Installationsumgebungsvariablen “.
- Um die Umgebungsvariablen aus dem Skript zu verwenden, müssen Sie die Umgebungsvariablen vor der Ausführung der Befehle in dieser Aufgabe laden. Führen Sie beispielsweise folgenden Befehl aus:
source ./cpd_vars.sh
- Sicherheitskontexteinschränkung
watsonx.aiIBM arbeitet mit der Red Hat® OpenShift® Container Platform Standard-Sicherheitskontextbeschränkung.
restricted-v2
- Common core services
watsonx.aiIBM erfordert die IBM Software Hub common core services.
Wenn die nicht im Oper andenprojekt für common core services die Instanz installiert sind, werden common core services die automatisch installiert, wenn Sie installieren watsonx.aiIBM. Die common core services Installation verlängert die Zeit, die für die Installation benötigt wird.
- Speicheranforderungen
- Sie müssen bei der Installation Speicherklassen IBMwatsonx.ai angeben. Die folgenden Speicherklassen werden empfohlen. Wenn Sie diese Speicherklassen jedoch nicht in Ihrem Cluster verwenden, stellen Sie sicher, dass Sie eine Speicherklasse mit einer gleichwertigen Definition angeben.
Vorbereitende Schritte
Diese Aufgabe setzt voraus, dass die folgenden Voraussetzungen erfüllt sind:
- Systemvoraussetzungen
- Diese Aufgabe setzt voraus, dass der Cluster die Mindestanforderungen für erfüllt IBMwatsonx.ai.
Weiterführende Informationen Wenn diese Aufgabe nicht abgeschlossen ist, siehe Systemanforderungen. Stellen Sie außerdem sicher, dass Sie über den geeigneten Typ und die geeignete Anzahl von GPUs für IBMwatsonx.ai verfügen.Weiterführende Informationen Wenn diese Aufgabe nicht abgeschlossen ist, siehe GPU-Anforderungen. - Workstation
- Bei dieser Aufgabe wird davon ausgegangen, dass der Arbeitsplatzrechner, von dem aus Sie die Installation ausführen, als Client-Arbeitsplatzrechner eingerichtet ist und über die folgenden Befehlszeilenschnittstellen verfügt:
- IBM Software
Hub CLI:
cpd-cli - OpenShift CLI:
oc - Helm CLI:
helm
Weiterführende Informationen Wenn diese Aufgabe nicht abgeschlossen ist, siehe Einrichten einer Client-Workstation. - IBM Software
Hub CLI:
- Steuerebene
- Diese Aufgabe setzt voraus, dass installiert IBM Software
Hubcontrol plane ist.
Weiterführende Informationen Wenn diese Aufgabe nicht abgeschlossen ist, siehe Installieren einer Instanz von IBM Software Hub. - Private Container-Registry
- Wenn Ihre Umgebung eine private Container-Registry verwendet (z. B. wenn Ihr Cluster luftisoliert ist), setzt diese Aufgabe voraus, dass die folgenden Aufgaben abgeschlossen sind:
- Die IBMwatsonx.ai Software-Images werden in die private Container-Registry gespiegelt.
Weiterführende Informationen Wenn diese Aufgabe nicht abgeschlossen ist, siehe Spiegeln von Images in eine private Container-Registrierung. - Der
cpd-cliist so konfiguriert, dass er dasolm-utils-v4Image aus der privaten Container-Registry abruft.Weiterführende Informationen Wenn diese Aufgabe nicht abgeschlossen ist, siehe Abrufen des olm-utils-v4 Images aus der privaten Container-Registrierung.
- Die IBMwatsonx.ai Software-Images werden in die private Container-Registry gespiegelt.
- Lastausgleichsfunktion
- Die Zeitüberschreitungseinstellungen des Lastenausgleichs werden für IBMwatsonx.ai angepasst.
Weiterführende Informationen Wenn diese Aufgabe nicht abgeschlossen ist, siehe Ändern der Load Balancer-Einstellungen. - GPU-Betreiber
- Diese Aufgabe setzt voraus, dass die für die Verwendung von GPUs erforderlichen Treiber installiert sind.
Weiterführende Informationen Wenn diese Aufgabe nicht abgeschlossen ist, siehe Installieren von Operatoren für Dienste, die GPUs erfordern. - Red Hat OpenShift AI
- Diese Aufgabe setzt voraus, dass Red Hat
OpenShift AI installiert ist.
Weiterführende Informationen Wenn diese Aufgabe nicht abgeschlossen ist, siehe Installation Red Hat OpenShift von AI. - Cluster-bezogene Ressourcen
- Bei dieser Aufgabe wird davon ausgegangen, dass die clusterbezogenen Ressourcen, wie z. B. benutzerdefinierte Ressourcendefinitionen, Clusterrollen und Clusterrollenbindungen, vorhanden sind.
Weiterführende Informationen Wenn diese Aufgabe noch nicht abgeschlossen ist, lesen Sie Erstellen von Ressourcen im Clusterbereich für die IBMSoftware Hub Plattform und Dienste. - Geheime Schlüssel für Image-Pull-Operationen
- Diese Aufgabe setzt voraus, dass die Geheimnisse, die die Bildabruf-Anmeldedaten für die Instanz enthalten, vorhanden sind.
Weiterführende Informationen Wenn diese Aufgabe nicht abgeschlossen ist, lesen Sie Erstellen von Image-Pull-Geheimnissen für eine Instanz von IBM Software Hub.
Voraussetzungen für das Hosting Foundation-Modelle
- Anforderungen an private Container-Registries
- Wenn Sie die Schritte unter „Bilder direkt in eine private Container-Registrierung spiegeln“ abgeschlossen haben, können Sie Gruppennamen angeben, um nur Bilder für die Foundation-Modelle zu spiegeln, die Sie verwenden möchten. Der Gruppenname für jedes Foundation-Modell ist in den Tabellen angegeben, in denen die unterstützten Foundation-Modelle aufgeführt sind. Siehe Systemanforderungen für Foundation-Modelle in IBM watsonx.ai.
- GPU-Anforderungen
Für die Inferenz großer Sprachmodelle sind zusätzliche Rechenressourcen erforderlich, darunter spezielle GPUs. Stellen Sie sicher, dass Ihr Cluster die Systemanforderungen für die Modelle erfüllt, die Sie verwenden möchten, und dass die erforderlichen Operatoren zur Unterstützung von GPUs installiert sind, bevor Sie den IBMwatsonx.ai Dienst installieren. Weitere Informationen zu den spezifischen Ressourcenanforderungen Systemanforderungen für Foundation-Modelle in IBM watsonx.ai für Foundation-Modell finden Sie unter. Nachdem Sie die Schritte zur Installation von Operatoren für Dienste, die GPUs erfordern, abgeschlossen haben, können Sie optional (MIG) NVIDIA Multi-Instance GPU konfigurieren. Partitionieren Sie jedoch keine GPU-Prozessoren in einem Cluster, den Sie für die Optimierung Foundation-Modelle verwenden möchten. Weitere Informationen finden Sie unter Partitionierung von GPU-Prozessoren in IBM watsonx.ai.
Vorgehensweise
Führen Sie die folgenden Schritte aus, um die Installation abzuschließen IBMwatsonx.ai :
Festlegen der Installationskomponenten
Sie können mehrere Komponenten mit dem watsonx.ai™ Dienst installieren. Setzen Sie die Umgebungsvariable XAI_COMPONENT_TYPE auf die Liste der Komponenten, die Sie installieren möchten.
watsonx_aiKomponente- Installiert die watsonx.ai Kernfunktionalität, mit der Sie mit Foundation-Modelle in Ihrem Cluster installierten Basismodellen arbeiten und Tools wie und Prompt Lab verwenden Tuning Studio können.Setzen Sie XAI_COMPONENT_TYPE wie folgt, um nur die watsonx.ai Kernkomponente zu installieren:
export XAI_COMPONENT_TYPE=watsonx_ai model_gatewayKomponente- Installiert das Modell-Gateway, mit dem Sie mit Foundation-Modelle arbeiten können, die auf einem Remote-Cluster oder einer Infrastruktur eines Drittanbieters gehostet werden.Setzen Sie XAI_COMPONENT_TYPE wie folgt, um nur die Modell-Gateway-Komponente zu installieren:
export XAI_COMPONENT_TYPE=model_gatewayHinweis: Das Modell-Gateway benötigt keine GPUs oder Red Hat OpenShift AI.
export XAI_COMPONENT_TYPE=watsonx_ai,model_gatewayFestlegen der Installationsoptionen
Wenn Sie eine Installation planen watsonx.ai, können Sie die Installationsoptionen in einer Datei namens install-options.yml im cpd-cli
work Verzeichnis festlegen (Beispiel: cpd-cli-workspace/olm-utils-workspace/work).
watsonx_ai Kernkomponente. Diese Optionen gelten nicht für die model_gateway Komponente.Die Parameter sind optional. Wenn Sie diese Installationsparameter nicht festlegen, werden die Standardwerte verwendet.
Befolgen Sie die entsprechenden Anweisungen für die von IBM Software Hub Ihnen installierte Version:
- Version 5.3.1
Der Beispiel-YAML-Inhalt verwendet die Standardwerte.
5.3.1 und später Die Formatierung gilt nur für IBM Software Hub die Version 5.3.1
Behalten Sie die
---Syntax am Anfang des Eintrags bei, um sicherzustellen, dass dieser Eintrag als separates Dokument behandelt wird.--- # ............................................................................ # watsonx.ai parameters # ............................................................................ non_olm: watsonxAi: liteInstall: false- Version 5.3.0
Der Beispiel-YAML-Inhalt verwendet die Standardwerte.
Wenn Sie einen oder mehrere der Standardwerte überschreiben möchten, fügen Sie die Parameter zum
non_olm:Abschnitt derinstall-options.ymlDatei unter demwatsonxAi:Eintrag hinzu.# ............................................................................ # watsonx.ai parameters # ............................................................................ watsonxAi: liteInstall: false
| Eigenschaft | Beschreibung |
|---|---|
liteInstall |
Geben Sie an, ob Sie den vollständigen watsonx.ai Dienst oder den watsonx.ai lightweight engine. Weitere Informationen finden Sie unter Auswahl eines IBM
watsonx.ai Installationsmodus.
|
Service installieren
Zur Installation watsonx.aiIBM :
- Melden Sie sich beim Red Hat OpenShift Container Platform Cluster
cpd-clian:${CPDM_OC_LOGIN}Denken Sie daran:CPDM_OC_LOGINist ein Alias für dencpd-cli manage login-to-ocpBefehl. - Installieren Sie den Operator und die benutzerdefinierte Ressource für IBM watsonx.ai.
Der auszuführende Befehl hängt vom Speicherplatz auf Ihrem Cluster ab.
Red Hat OpenShift Datengrundlage-Speicher
Führen Sie den für Ihre Umgebung geeigneten Befehl aus:
- Standardinstallation (ohne Installationsoptionen)
cpd-cli manage install-components \ --license_acceptance=true \ --components=${XAI_COMPONENT_TYPE} \ --release=${VERSION} \ --operator_ns=${PROJECT_CPD_INST_OPERATORS} \ --instance_ns=${PROJECT_CPD_INST_OPERANDS} \ --block_storage_class=${STG_CLASS_BLOCK} \ --file_storage_class=${STG_CLASS_FILE} \ --image_pull_prefix=${IMAGE_PULL_PREFIX} \ --image_pull_secret=${IMAGE_PULL_SECRET}- Benutzerdefinierte Installation (mit Installationsoptionen)
cpd-cli manage install-components \ --license_acceptance=true \ --components=${XAI_COMPONENT_TYPE} \ --release=${VERSION} \ --operator_ns=${PROJECT_CPD_INST_OPERATORS} \ --instance_ns=${PROJECT_CPD_INST_OPERANDS} \ --block_storage_class=${STG_CLASS_BLOCK} \ --file_storage_class=${STG_CLASS_FILE} \ --image_pull_prefix=${IMAGE_PULL_PREFIX} \ --image_pull_secret=${IMAGE_PULL_SECRET} \ --param-file=/tmp/work/install-options.yml
IBM Fusion Data Foundation-Speicher
Führen Sie den für Ihre Umgebung geeigneten Befehl aus:
- Standardinstallation (ohne Installationsoptionen)
cpd-cli manage install-components \ --license_acceptance=true \ --components=${XAI_COMPONENT_TYPE} \ --release=${VERSION} \ --operator_ns=${PROJECT_CPD_INST_OPERATORS} \ --instance_ns=${PROJECT_CPD_INST_OPERANDS} \ --block_storage_class=${STG_CLASS_BLOCK} \ --file_storage_class=${STG_CLASS_FILE} \ --image_pull_prefix=${IMAGE_PULL_PREFIX} \ --image_pull_secret=${IMAGE_PULL_SECRET}- Benutzerdefinierte Installation (mit Installationsoptionen)
cpd-cli manage install-components \ --license_acceptance=true \ --components=${XAI_COMPONENT_TYPE} \ --release=${VERSION} \ --operator_ns=${PROJECT_CPD_INST_OPERATORS} \ --instance_ns=${PROJECT_CPD_INST_OPERANDS} \ --block_storage_class=${STG_CLASS_BLOCK} \ --file_storage_class=${STG_CLASS_FILE} \ --image_pull_prefix=${IMAGE_PULL_PREFIX} \ --image_pull_secret=${IMAGE_PULL_SECRET} \ --param-file=/tmp/work/install-options.yml
IBM Fusion Global Data Platform-Speicher
Beachten Sie: Wenn Sie storage IBM Fusion Global Data Platform verwenden, verweisen sowohl${STG_CLASS_BLOCK}${STG_CLASS_FILE}als auch auf dieselbe Speicherklasse, in der Regelibm-spectrum-scale-scoderibm-storage-fusion-cp-sc.Führen Sie den für Ihre Umgebung geeigneten Befehl aus:
- Standardinstallation (ohne Installationsoptionen)
cpd-cli manage install-components \ --license_acceptance=true \ --components=${XAI_COMPONENT_TYPE} \ --release=${VERSION} \ --operator_ns=${PROJECT_CPD_INST_OPERATORS} \ --instance_ns=${PROJECT_CPD_INST_OPERANDS} \ --block_storage_class=${STG_CLASS_BLOCK} \ --file_storage_class=${STG_CLASS_FILE} \ --image_pull_prefix=${IMAGE_PULL_PREFIX} \ --image_pull_secret=${IMAGE_PULL_SECRET}- Benutzerdefinierte Installation (mit Installationsoptionen)
cpd-cli manage install-components \ --license_acceptance=true \ --components=${XAI_COMPONENT_TYPE} \ --release=${VERSION} \ --operator_ns=${PROJECT_CPD_INST_OPERATORS} \ --instance_ns=${PROJECT_CPD_INST_OPERANDS} \ --block_storage_class=${STG_CLASS_BLOCK} \ --file_storage_class=${STG_CLASS_FILE} \ --image_pull_prefix=${IMAGE_PULL_PREFIX} \ --image_pull_secret=${IMAGE_PULL_SECRET} \ --param-file=/tmp/work/install-options.yml
IBM Storage Scale Container Native Speicher
Beachten Sie: Wenn Sie storage IBM Storage Scale Container Native verwenden, verweisen sowohl${STG_CLASS_BLOCK}${STG_CLASS_FILE}als auch auf dieselbe Speicherklasse, in der Regelibm-spectrum-scale-sc.Führen Sie den für Ihre Umgebung geeigneten Befehl aus:
- Standardinstallation (ohne Installationsoptionen)
cpd-cli manage install-components \ --license_acceptance=true \ --components=${XAI_COMPONENT_TYPE} \ --release=${VERSION} \ --operator_ns=${PROJECT_CPD_INST_OPERATORS} \ --instance_ns=${PROJECT_CPD_INST_OPERANDS} \ --block_storage_class=${STG_CLASS_BLOCK} \ --file_storage_class=${STG_CLASS_FILE} \ --image_pull_prefix=${IMAGE_PULL_PREFIX} \ --image_pull_secret=${IMAGE_PULL_SECRET}- Benutzerdefinierte Installation (mit Installationsoptionen)
cpd-cli manage install-components \ --license_acceptance=true \ --components=${XAI_COMPONENT_TYPE} \ --release=${VERSION} \ --operator_ns=${PROJECT_CPD_INST_OPERATORS} \ --instance_ns=${PROJECT_CPD_INST_OPERANDS} \ --block_storage_class=${STG_CLASS_BLOCK} \ --file_storage_class=${STG_CLASS_FILE} \ --image_pull_prefix=${IMAGE_PULL_PREFIX} \ --image_pull_secret=${IMAGE_PULL_SECRET} \ --param-file=/tmp/work/install-options.yml
Portworx-Speicher
Führen Sie den für Ihre Umgebung geeigneten Befehl aus:
- Standardinstallation (ohne Installationsoptionen)
cpd-cli manage install-components \ --license_acceptance=true \ --components=${XAI_COMPONENT_TYPE} \ --release=${VERSION} \ --operator_ns=${PROJECT_CPD_INST_OPERATORS} \ --instance_ns=${PROJECT_CPD_INST_OPERANDS} \ --storage_vendor=portworx \ --image_pull_prefix=${IMAGE_PULL_PREFIX} \ --image_pull_secret=${IMAGE_PULL_SECRET}- Benutzerdefinierte Installation (mit Installationsoptionen)
cpd-cli manage install-components \ --license_acceptance=true \ --components=${XAI_COMPONENT_TYPE} \ --release=${VERSION} \ --operator_ns=${PROJECT_CPD_INST_OPERATORS} \ --instance_ns=${PROJECT_CPD_INST_OPERANDS} \ --storage_vendor=portworx \ --image_pull_prefix=${IMAGE_PULL_PREFIX} \ --image_pull_secret=${IMAGE_PULL_SECRET} \ --param-file=/tmp/work/install-options.yml
NFS Speicher
Beachten Sie: Wenn Sie storage NFS verwenden, verweisen sowohl${STG_CLASS_BLOCK}${STG_CLASS_FILE}als auch auf dieselbe Speicherklasse, in der Regelmanaged-nfs-storage.Führen Sie den für Ihre Umgebung geeigneten Befehl aus:
- Standardinstallation (ohne Installationsoptionen)
cpd-cli manage install-components \ --license_acceptance=true \ --components=${XAI_COMPONENT_TYPE} \ --release=${VERSION} \ --operator_ns=${PROJECT_CPD_INST_OPERATORS} \ --instance_ns=${PROJECT_CPD_INST_OPERANDS} \ --block_storage_class=${STG_CLASS_BLOCK} \ --file_storage_class=${STG_CLASS_FILE} \ --image_pull_prefix=${IMAGE_PULL_PREFIX} \ --image_pull_secret=${IMAGE_PULL_SECRET}- Benutzerdefinierte Installation (mit Installationsoptionen)
cpd-cli manage install-components \ --license_acceptance=true \ --components=${XAI_COMPONENT_TYPE} \ --release=${VERSION} \ --operator_ns=${PROJECT_CPD_INST_OPERATORS} \ --instance_ns=${PROJECT_CPD_INST_OPERANDS} \ --block_storage_class=${STG_CLASS_BLOCK} \ --file_storage_class=${STG_CLASS_FILE} \ --image_pull_prefix=${IMAGE_PULL_PREFIX} \ --image_pull_secret=${IMAGE_PULL_SECRET} \ --param-file=/tmp/work/install-options.yml
AWS nur mit EFS Speicherplatz
Beachten Sie: Wenn Sie storage EFS verwenden, verweisen sowohl${STG_CLASS_BLOCK}${STG_CLASS_FILE}als auch auf dieselbe Speicherklasse, in der Regelefs-nfs-client.Führen Sie den für Ihre Umgebung geeigneten Befehl aus:
- Standardinstallation (ohne Installationsoptionen)
cpd-cli manage install-components \ --license_acceptance=true \ --components=${XAI_COMPONENT_TYPE} \ --release=${VERSION} \ --operator_ns=${PROJECT_CPD_INST_OPERATORS} \ --instance_ns=${PROJECT_CPD_INST_OPERANDS} \ --block_storage_class=${STG_CLASS_BLOCK} \ --file_storage_class=${STG_CLASS_FILE} \ --image_pull_prefix=${IMAGE_PULL_PREFIX} \ --image_pull_secret=${IMAGE_PULL_SECRET}- Benutzerdefinierte Installation (mit Installationsoptionen)
cpd-cli manage install-components \ --license_acceptance=true \ --components=${XAI_COMPONENT_TYPE} \ --release=${VERSION} \ --operator_ns=${PROJECT_CPD_INST_OPERATORS} \ --instance_ns=${PROJECT_CPD_INST_OPERANDS} \ --block_storage_class=${STG_CLASS_BLOCK} \ --file_storage_class=${STG_CLASS_FILE} \ --image_pull_prefix=${IMAGE_PULL_PREFIX} \ --image_pull_secret=${IMAGE_PULL_SECRET} \ --param-file=/tmp/work/install-options.yml
Überprüfen der Installation
install-components Befehl Folgendes zurückgibt:[SUCCESS]... The install-components command ran successfully
Wenn Sie überprüfen möchten, ob der Status der benutzerdefinierten Ressource ist Completed, können Sie den cpd-cli
manage
get-cr-status Befehl ausführen:
cpd-cli manage get-cr-status \
--cpd_instance_ns=${PROJECT_CPD_INST_OPERANDS} \
--components=${XAI_COMPONENT_TYPE}
- Watson Studio
- Watson Machine Learning