中間コンテナー・レジストリーを使用したイメージのミラーリング (バージョン 5.2 からバージョン 5.3 へのアップグレード)

cpd-cli manage login-entitled-registry \
${IBM_ENTITLEMENT_KEY}

1. IBM Entitled Registryを検査します。
   ヒント: 特定のコンポーネントのイメージへのアクセス権限があることを検証する場合は、list-images コマンドを実行する前に、以下のコマンドを実行できます。

   export COMPONENTS=<component-ID>

   ご使用の環境に該当するコマンドを実行します。

   ---

   クライアント・ワークステーションに CASE パッケージが既にある

   cpd-cli manage list-images \
   --components=${COMPONENTS} \
   --release=${VERSION} \
   --inspect_source_registry=true

   ---

   GitHub (github.com/IBM) からの CASE パッケージのダウンロード

   cpd-cli manage list-images \
   --components=${COMPONENTS} \
   --release=${VERSION} \
   --inspect_source_registry=true

   ---

   IBM Cloud Pak Open Container Initiative リポジトリーからの CASE パッケージのダウンロード

   cpd-cli manage list-images \
   --components=${COMPONENTS} \
   --release=${VERSION} \
   --inspect_source_registry=true \
   --from_oci=true

   ---

   出力は、work/offline/${VERSION} ディレクトリーの list_images.csv ファイルに保存されます。

2. 出力にエラーがないか確認します。

   grep "level=fatal" list_images.csv

   このコマンドは、許可エラーまたはネットワーク・エラーが原因で失敗したイメージを返します。

デフォルトの cpd-cli-workspace/olm-utils-workspace/work ディレクトリーを使用するワークステーション

sed -i -e '/edb-postgres-advanced/d' ./cpd-cli-workspace/olm-utils-workspace/work/offline/${VERSION}/.ibm-pak/data/cases/ibm-cpd-edb/*/ibm-cpd-edb-*-images.csv

CPD_CLI_MANAGE_WORKSPACE 環境変数を使用するワークステーション

sed -i -e '/edb-postgres-advanced/d' ${CPD_CLI_MANAGE_WORKSPACE}/work/offline/${VERSION}/.ibm-pak/data/cases/ibm-cpd-edb/*/ibm-cpd-edb-*-images.csv

このコマンドは、クライアント・ワークステーション上に中間コンテナー・レジストリーを自動的にセットアップします。 中継コンテナー・レジストリーのアドレスは 127.0.0.1:12443 です。

cpd-cli manage mirror-images \
--components=${COMPONENTS} \
--groups=${IMAGE_GROUPS} \
--release=${VERSION} \
--target_registry=127.0.0.1:12443 \
--arch=${IMAGE_ARCH} \
--case_download=false

cpd-cli manage mirror-images \
--components=${COMPONENTS} \
--release=${VERSION} \
--target_registry=127.0.0.1:12443 \
--arch=${IMAGE_ARCH} \
--case_download=false

コンポーネントごとに、このコマンドは work ディレクトリーにログ・ファイルを生成します。

grep "error" mirror_*.log

1. 中間コンテナー・レジストリーの内容を検査します。

   cpd-cli manage list-images \
   --components=${COMPONENTS} \
   --release=${VERSION} \
   --target_registry=127.0.0.1:12443 \
   --case_download=false

   出力は、work/offline/${VERSION} ディレクトリーの list_images.csv ファイルに保存されます。

2. 出力にエラーがないか確認します。

   grep "level=fatal" list_images.csv

   このコマンドは、欠落しているか検査できないイメージを返します。

ミラーリングするイメージは、インストールする予定のモデルによって異なります。

Mistral AI モデル

以下のいずれかの Mistral AI・モデルをインストールする予定の場合は、IBM Entitled Registryから必要な vLLM・イメージをミラーリングする必要があります。

• codestral-22b
• codestral-2501
• ministral-8b-instruct
• mistral-large
• mistral-large-instruct-2411
• mistral-small-instruct
• pixtral-large-instruct-2411

skopeo copy --all \
--src-username cp \
--src-password ${IBM_ENTITLEMENT_KEY} \
--src-tls-verify=false \
--dest-tls-verify=false \
docker://cp.icr.io/cp/cpd/vllm@sha256:cc95bc7619549a5fb9342f8c41c613df5cd65b4e1f90b408db062559a2fdcff9 \
docker://127.0.0.1:12443/cp/cpd/vllm@sha256:cc95bc7619549a5fb9342f8c41c613df5cd65b4e1f90b408db062559a2fdcff9

その他のすべてのモデル

その他のすべてのモデルの場合、registry.redhat.ioから RHOAI vLLM CUDA イメージをミラーリングする必要があります。

1. registry.redhat.ioにログインします。

   skopeo login registry.redhat.io \
   --username ${REDHAT_ACCESS_USERNAME} \
   --password ${REDHAT_ACCESS_PASSWORD}

2. イメージをクライアント・ワークステーションの tmp/rhoai-new ディレクトリーにコピーします。

   skopeo copy --all 
   docker://registry.redhat.io/rhoai/odh-vllm-cuda-rhel9@sha256:fb84fbf103bf450ef5b060fc5f21a9cf16b166dba207a3c50aa91bccd919d604 \
   dir://tmp/rhoai-new

以下のコマンドは、資格情報で保護されたプライベート・コンテナー・レジストリーを使用していることを前提としています。

cpd-cli manage login-private-registry \
${PRIVATE_REGISTRY_LOCATION} \
${PRIVATE_REGISTRY_PUSH_USER} \
${PRIVATE_REGISTRY_PUSH_PASSWORD}

cpd-cli manage mirror-images \
--components=${COMPONENTS} \
--groups=${IMAGE_GROUPS} \
--release=${VERSION} \
--source_registry=127.0.0.1:12443 \
--target_registry=${PRIVATE_REGISTRY_LOCATION} \
--arch=${IMAGE_ARCH} \
--case_download=false

cpd-cli manage mirror-images \
--components=${COMPONENTS} \
--release=${VERSION} \
--source_registry=127.0.0.1:12443 \
--target_registry=${PRIVATE_REGISTRY_LOCATION} \
--arch=${IMAGE_ARCH} \
--case_download=false

コンポーネントごとに、このコマンドは work ディレクトリーにログ・ファイルを生成します。

1. プライベート・コンテナー・レジストリーの内容を検査します。

   cpd-cli manage list-images \
   --components=${COMPONENTS} \
   --release=${VERSION} \
   --target_registry=${PRIVATE_REGISTRY_LOCATION} \
   --case_download=false

   出力は、work/offline/${VERSION} ディレクトリーの list_images.csv ファイルに保存されます。

2. 出力にエラーがないか確認します。

   grep "level=fatal" list_images.csv

   このコマンドは、欠落しているか検査できないイメージを返します。

ミラーリングするイメージは、インストールする予定のモデルによって異なります。

Mistral AI モデル

以下のいずれかの Mistral AI・モデルをインストールする予定の場合は、必要な vLLM・イメージをプライベート・コンテナー・レジストリーにミラーリングする必要があります。

• codestral-22b
• codestral-2501
• ministral-8b-instruct
• mistral-large
• mistral-large-instruct-2411
• mistral-small-instruct
• pixtral-large-instruct-2411

skopeo copy --all \
--src-tls-verify=false \
--dest-username ${PRIVATE_REGISTRY_PUSH_USER} \
--dest-password ${PRIVATE_REGISTRY_PUSH_PASSWORD} \
--dest-tls-verify=false \
docker://127.0.0.1:12443/cp/cpd/vllm@sha256:cc95bc7619549a5fb9342f8c41c613df5cd65b4e1f90b408db062559a2fdcff9 \
docker://${PRIVATE_REGISTRY_LOCATION}/cp/cpd/vllm@sha256:cc95bc7619549a5fb9342f8c41c613df5cd65b4e1f90b408db062559a2fdcff9

その他のすべてのモデル

その他のすべてのモデルの場合、RHOAI vLLM CUDA イメージをプライベート・コンテナー・レジストリーにミラーリングする必要があります。

skopeo copy --all \
--src-tls-verify=false \
--dest-username ${PRIVATE_REGISTRY_PUSH_USER} \
--dest-password ${PRIVATE_REGISTRY_PUSH_PASSWORD} \
--dest-tls-verify=false \
dir://tmp/rhoai-new \
docker://${PRIVATE_REGISTRY_LOCATION}/rhoai/odh-vllm-cuda-rhel9@sha256:fb84fbf103bf450ef5b060fc5f21a9cf16b166dba207a3c50aa91bccd919d604