NVIDIA Multi-Instance GPU の設定 (MIG)

NVIDIA Multi-Instance GPU (MIG) は、GPUのパーティショニングを可能にします。 MIG は、サービスがGPUで利用可能なすべてのリソースを必要としない場合に便利です。 MIG を設定すると、各パーティションは独立した CUDA 対応 GPU として扱われます。

設置段階

誰がこのタスクを完了する必要があるのか？

クラスタ管理者クラスタ管理者はこのタスクを完了する必要があります。

いつまでにこのタスクを完了させる必要がありますか？

ワンタイムセットアップ GPUをパーティショニングする場合は、このタスクを完了します。

このタスクについて

NVIDIA Multi-Instance GPU は、単一（同種）と混合（異種）の広告戦略を提供する。しかし、 IBM Software Hub は、ノード上のすべてのGPUが同じ量のコンピュートとメモリで構成される単一アドバタイズ戦略のみをサポートしています。

NVIDIA ドキュメントの OpenShift® Container Platform にある MIG サポートを確認し、使用するプロファイルを選択する。

MIG を設定する際、以下のオプションがある：

クラスタ上のすべてのGPUワーカーノードで同じプロファイルを使用できます。
すべてのワーカーノードで同じプロファイルを使用する場合、カスタムランタイム定義を作成する必要はありません。
クラスタの各ワーカノードで異なるプロファイルを使用することができます。
異なるプロファイルを使用する場合は、カスタムランタイム定義を作成する必要がある。

設定するには MIG

お使いのGPUで利用可能な MIG プロファイルを確認します。
サポートされているプロファイルは、GPU operator プロジェクトの mig-parted-config ConfigMap にリストされています。
使用するプロファイルに基づき、 MIG_LABEL ：
```
export MIG_LABEL=<label>
```
MIG を有効にしたい各 GPU ノードにラベルを付けます。
<node name> をラベルを付けたいノードの名前に置き換える。
```
oc label nodes <node name> nvidia.com/mig.config=${MIG_LABEL} --overwrite=true
```

MIG の設定が完了したら、 Red Hat OpenShift AI のインストールを完了します。