IBM LinuxONE上のAI

スケーラブルで、省電力かつセキュアな組み込みAI
Telum IIプロセッサー・チップ

AIによるパフォーマンスとイノベーションの実現

人工知能(AI)はあらゆる業界を変革しており、企業にはAIワークロードを効率的かつ安全に処理できるインフラが求められています。IBM® Telumプロセッサを搭載したIBM LinuxONEは、AIアクセラレーション機能をチップに直接組み込み、複数のAIモデルによるリアルタイム推論を最小限の遅延で実現します。この高度な機能は、予測AIや大規模言語モデルと組み合わせることで、データを移動させることなくその場で分析し、高度な不正アクセス検知、リスク分析、医用画像処理といったミッションクリティカルなアプリケーションに対して、より迅速かつ深い洞察を提供します。

IBM LinuxONE上のAIに関するブログを読む
リアルタイムのAI洞察

オンチップAIアクセラレータにより、低遅延の推論が可能になり、トランザクションの発生に応じてデータを分析できます。メモリー一貫性と直接ファブリック・アクセスにより、ボトルネックが解消され、AIをシームレスに実行できます。

より高いAIスループット

IBM LinuxONE Emperor 5上で、OLTPワークロードに対して単一の統合型AIアクセラレーターを使用することで、13コアのリモートX86 Server上で推論を実行した場合と同等のスループットが得られます1

AIパフォーマンスを加速

IBM LinuxONE Emperor 5を使用すれば、クレジットカード不正アクセス検知向けのディープラーニングモデルを用いて、1ミリ秒の応答時間で1日あたり最大4,500億件の推論処理が可能です。2

妥協のない拡張性

IBM LinuxONE Emperor 5を使用すれば、クレジットカード不正アクセス検知向けのディープラーニングモデルを用いて、1秒あたり最大500万件の推論処理を、1ミリ秒未満の応答時間で実行できます。3

IBM LinuxONEで先進のセキュリティーとAIの可能性を解き放ちましょう。5月13日午前10時(東部標準時)に開催されるこのイベントでは、実際のお客様事例とエキスパートの洞察を紹介します。

Webセミナーに登録する

IBM LinuxONE向けAIソフトウェアとソリューション

IBM LinuxONE向けAIツールキット
IBM LinuxONEの統合型AIアクセラレーター向けに最適化されたAIフレームワークの厳選セット。IBM Elite Supportと連携し、優れたパフォーマンスを実現します。
IBM Synthetic Data Sets
AIモデルのトレーニングや大規模言語モデル(LLM)を強化するために生成されたデータセット群。金融分野におけるAI活用を支援し、IBM LinuxONEが豊富で関連性の高いデータへ迅速にアクセスできるようにします。
IBM Cloud Pak for Data
ハイブリッドクラウド環境に散在するサイロ化されたデータを接続し、データの整理とAIの導入を効率化するモジュール型プラットフォーム。
ONNX
フレームワーク間の互換性を可能にするポータブルなモデル形式。 AI開発者は一度モデルを構築すれば、さまざまなランタイム、ツール、コンパイラーにデプロイできます。
TensorFlow
モデル開発、トレーニング、推論のための強力なオープンソースフレームワークで、LinuxONEに最適化された豊富なエコシステムを提供します。
IBM SnapML
機械学習の高速トレーニングと推論向けに設計されており、IBM Integrated Accelerator for AIを活用して、ランダム・フォレスト、エクストラ・ツリー、勾配ブースティング・モデルの性能を向上させます。
トリトン推論サーバー
Linux on Z用に最適化されたオープンソースのモデル・サーバーで、CPUとGPUの両方の推論をサポートしながら、SIMDとIBM Integrated Accelerator for AIを利用します。
IBM® Z Deep Learning Compiler
IBM Z上でのディープラーニングモデルのデプロイメントを合理化するツールで、データサイエンティストがミッションクリティカル環境向けにAIモデルを最適化できるようにします。

ISVアプリケーション

IBM はIBM LinuxONE エコシステムと連携して、ISV が今日の AI、サステナビリティーサイバーセキュリティ の課題に対応するソリューションを提供できるよう支援しています。

金融機関と医療機関向けにカスタマイズされた2つの革新的なソリューションである、リアルタイムの不正防止を実現するClari5 Enterprise Fraud Management on IBM LinuxONE 4 Expressと、高度なAIソリューションを大規模に実現するExponential AIのEnso Decision Intelligence Platform on LinuxONEの詳細をご覧ください。

Clari5の詳細はこちら Exponential AIの詳細はこちら
次のステップ

AI on IBM LinuxONEの詳細について説明いたします。IBMの担当者との30分間の無料相談を予約してください。

IBM LinuxONE 5の詳細はこちら
脚注

1 免責事項: 本パフォーマンス結果は、IBM®の内部テストに基づいており、マシンタイプ9175のIBM Systems Hardware上で実行されました。OLTPアプリケーションおよびPostgreSQLはIBM Systems Hardware上にデプロイされています。クレジットカード不正アクセス検知(CCFD)向けのアンサンブルAI構成は、2つのモデル(LSTMTabFormer)で構成されています。IBM Systems Hardware上では、OLTPアプリケーションをIBM Z Deep Learning Compiler(zDLC)でコンパイルしたJARファイルと、IBM Z Accelerated for NVIDIA Triton Inference Serverをローカルで実行し、AI推論処理をコアおよび統合型AIアクセラレーターで処理しました。一方、比較対象では、OLTPアプリケーションをローカルで実行しつつ、NVIDIA Triton Inference ServerとOpenVINO™ランタイム(AMX対応CPU使用)を搭載したX86 ServerでリモートAI推論を行いました。すべてのシナリオは、Apache JMeter™ 5.6.3を使用し、64の並列ユーザーによってドライブされました。IBM Systems Hardwareの構成:Ubuntu 24.04を実行する1つのLPAR(論理パーティション)で、7つの専用コア(SMT)、256 GBのメモリー、IBM FlashSystem 9500ストレージを搭載。ネットワーク・アダプターはLinux上のNETHに専用設定。x86サーバーの構成:Ubuntu 24.04を実行するx86サーバー1台で、28コアのEmerald Rapids Intel® Xeon® Gold CPU(2.20 GHz、ハイパースレッディング有効)、1 TBのメモリー、ローカルSSD、最大性能プロファイルを有効にしたUEFI、CPU P-State ControlおよびC-Statesは無効化。結果は異なる場合があります。

2、3免責事項:本パフォーマンス結果は、マシンタイプ9175のIBM Systems Hardware上で実行されたIBM社内テストに基づく外挿値です。ベンチマークは、統合型AIアクセラレーターを活用する目的で、LSTMベースの合成クレジットカード不正アクセス検知モデルを用い、1スレッドでローカル推論処理を実行する形で実施されました。バッチサイズは160です。IBM Systems Hardwareの構成:Red Hat® Enterprise Linux® 9.4を実行する1つのLPAR(論理パーティション)、6コア(SMT有効)、128 GBのメモリーを搭載。結果は異なる場合があります。