IBM Cloud上のIntel® Gaudi® 3 AIアクセラレーター

IBM Cloudは、Intel® Gaudi® 3を提供する初のグローバル・クラウド・サービス・プロバイダーです

IBM® Cloud上のIntel^® Gaudi^® 3 AIアクセラレーターを活用して、AIソリューションの可能性を解き放ち、革新を起こし、デプロイしましょう。ハイパフォーマンス、導入の柔軟性、オープンな開発環境を備え、エンタープライズAIの需要に対してコスト効率よくスケーリングすることを目的に設計されています。

大規模言語モデル（LLM）やマルチモーダル・モデル（MMM）など、幅広い生成AI推論アプリケーションとフレームワークをサポートします。IBM Cloud Virtual Server for VPCのデプロイメントをすぐに始めましょう。IBM® watsonx、Red Hat® OpenShift® Kubernetes Service、および自動化されたTerraformベースのデプロイメントのサポートは、2025年上半期に予定されています。Red Hat OpenShift AIクラスター、IBM Cloud Kubernetes Service、およびIBM Cloud上のデプロイ可能なアーキテクチャーのサポートは、2025年下半期に予定されています。

Intel Gaudi 3テクノロジーの詳細はこちら

発表資料

エンタープライズAIのための新たなソリューション

競争力のあるAIの価格と性能

費用対効果の高い生成AIの性能により、高い推論スループットと最適化された総所有コストを実現します。

迅速かつ効率的なスケーリング

柔軟な容量サポートとクローズド・システム・ロックインからの解放により、システムの拡張性を容易に向上させることができます。

オープンな開発と柔軟なデプロイメントの選択肢

好みのIntel Gaudi 3のデプロイメント・モデルでAIワークロードを加速し、オープン・スタンダードのパブリッククラウド上のオープンソース・モデルを使用して開発者の障壁を取り除く支援をします。

インフラストラクチャーとソフトウェアの要件に基づいてデプロイ

Intel® Gaudi® 3 AIアクセラレーターは、第5世代Intel® Xeon®プロセッサーと組み合わせて、IBM Cloud Virtual Server for VPC上で提供されます。

64基のテンソル・プロセッサー・コア（TPC）と8基のマトリックス乗算エンジン（MME）を搭載したGaudi 3の拡大図

IBM Cloud Virtual Private Cloud（VPC）上にスタンドアロン・サーバーをプロビジョニングします

Intel Gaudi 3 AIアクセラレーターは、IBM Cloud Virtual Server for VPCクラウド・インスタンスを通じてデプロイできます。IBM Cloud VPCは、ソフトウェア定義ネットワーク上で高いレジリエンスとセキュリティーを実現するよう設計されており、クライアントはパブリッククラウドのメリットを活かしながら、分離されたプライベートクラウドを構築できます。Red Hat Enterprise Linux AIイメージにも対応するIntel Gaudi 3クラウド・インスタンスは、高度に専門的なソフトウェア・スタックを必要とするクライアントや、基盤となるサーバーを完全に制御したいクライアントに最適です。

サーバー導入についてはこちら

違いはデザインにあり

高帯域幅メモリー（HBM）

128GBのHBM容量と3.7TB/秒の帯域幅を備えた単一カード上で、より多くのトークンとモデルを使用して構築し、生成AIのパフォーマンスを高速化します。

業界標準のイーサネット

業界標準のイーサネットを使用してスイッチングの選択肢を増やして統合コストの削減をサポートし、ファブリック・ロックインを排除します。

大容量データ伝送

大容量RoCEの24x200GbEポートで、大規模なスケールアウトおよびスケールアップを実現。

オープン開発

Intel^® Gaudi^® 3 Extension for PyTorchを活用して開発を簡素化し、Hugging Face上の最適化されたモデル・ライブラリーにより、開発時間とコード保守を短縮します。

高いコア性能

データ転送を最小限に抑えるよう設計された専用の高性能コアを備えた、Intel^® Gaudi^® 3 AI アクセラレーターのマトリックス乗算エンジンを活用しましょう

簡易な移行

オープン・ソフトウェア上で、使いやすい開発者用ツールを活用し、わずか3行のコードでリフト・アンド・シフト型のモデル移行を実現します。

参考情報

Intel® Gaudi® 3に関する資料

IBM Cloud上でIntel® Gaudi® 3 AIアクセラレータを試す。プロビジョニング・ガイド、入門チュートリアル、プロファイルの詳細などをご覧ください。

IBM Cloud VPCのドキュメント

IBM Cloud Virtual Private Cloudの詳細はこちら。プロビジョニングガイド、入門チュートリアルなどをご覧ください。

IBM watsonx.aiデモ

watsonx.ai開発者向けスタジオのアーに参加しましょう。プロンプトの作成方法、基盤モデルの実験方法、MLモデルの構築方法を学びます。

よくある質問

IBM Cloud上の Intel^® Gaudi^® 3 AIアクセラレーターは、高性能なAIワークロード向けに設計されており、64基のテンソル・プロセッサー・コア（TPC）と8基のマトリックス乗算エンジン（MME）を備え、ディープ・ニューラル・ネットワークの計算を加速します。IBM Cloud上の Intel^® Gaudi^® 3 AIアクセラレーターは、128GBのHBM2Eメモリーを搭載し、最大3.7TB/sのメモリ帯域幅を提供します。さらに、業界標準のイーサネット・ネットワーク（24x200GbEポート）をサポートし、9.6Tbpsの双方向帯域幅を提供することで、スケーラブルなシステムの相互接続性を可能にします。

Intel^® Gaudi^® 3 AIアクセラレーターは、推論、3D生成、テキスト生成、分類、動画生成、感情分析、翻訳、画像生成、要約、Q&Aなど、幅広いAIアプリケーションをサポートします。特に、マルチ・モーダル、大規模言語モデル（LLM）、および検索拡張生成（RAG）に重点を置いています。

128GBのHBM2Eメモリと最大3.7TB/sのメモリ帯域幅を備えたIBM Cloud上のIntel^® Gaudi^® 3 AIアクセラレーターは、高速なデータ・スループットを実現し、ボトルネックを軽減することで、開発者が大規模なデータセットをより迅速かつ効率的に処理できるよう支援します。

IBM Cloud上のIntel^® Gaudi^® 3 AIアクセラレーターは、IBM Cloud Virtual Private Cloud（VPC）内のIBM Cloud Virtual Serversに組み込まれています。IBM Cloud VPCは、高い回復力と高い安全性を備えたソフトウェア定義ネットワーク（SDN）であり、重要なパブリッククラウドのメリットを維持しながら、分離されたプライベートクラウドを構築できます。IBM Cloud VPC上のIntel^® Gaudi^® 3仮想サーバー・プロファイルは、vCPU、RAM、ストレージがあらかじめ構成された組み合わせで、仮想サーバー・インスタンスを迅速に起動できます。

IBM Cloud上のIntel^® Gaudi^® 3 AIアクセラレーターは、 PyTorch、ONNX、DeepSpeedなどの一般的なフレームワークをサポートしています。Hugging Faceでは40万以上のモデルが利用可能で、 Optimum Habanaソフトウェア・ライブラリーとの連携に最適化されています。Intel^® Gaudi^® のソフトウェア・スイートとフレームワークの完全なサポートは、容易な移行を可能にするよう設計されており、開発者は既存のモデルを最小限のコード変更で統合できます。