アクセラレーテッド・コンピューティングとは

アクセラレータ・コンピューティングは、グラフィックス・プロセッシング・ユニット（GPU）、アプリケーション固有の集積回路（ASIC）、フィールド・プログラマブル・ゲート・アレイ（FPGA）など、さまざまなハードウェアとソフトウェア（アクセラレータとも呼ばれる）に依存しています。

アクセラレーテッド・コンピューティング・ソリューションは、従来の中央処理装置（CPU）よりも高速かつ効率的に計算を実行できるため、多くの業種で高い需要があります。CPUとは異なり、アクセラレータは並列コンピューティングに依存します。並列コンピューティングは、タスクを小さな問題に分割し、順番にではなく同時に解決する計算問題解決方法です。

アクセラレーテッド・コンピューティングは、そのデータ処理速度により、人工知能 (AI)、生成 AI 、機械学習 (ML)、高性能コンピューティングなど、多くの最先端テクノロジーやアプリケーションの進歩にクリティカルなものとなっています。今日、Google、Amazon Web Services（AWS）、Microsoftなど、世界で最も成功している多くのテクノロジー企業のストラテジーの重要なコンポーネントとなっています。

中央処理装置、ユニット、または CPU は、コンピューターのオペレーティング システム (OS) とアプリを実行するさまざまな電子回路で構成されています。長年にわたり、CPUはコンピューターの頭脳として機能し、データインプットを情報アウトプットに変換してきました。しかし、アプリケーションが高度になるにつれて、CPUが管理できるよりも速く、より効率的にデータを処理する必要がありました。並列処理機能、低遅延、高スループットを備えたアクセラレータと加速コンピューティング テクノロジーを導入します。アクセラレータが初めて注目を集めた1980年代以来、コンピューター・サイエンスにおける最大の技術進歩の多くはアクセラレーターに依存してきました。

最もエキサイティングな新しいビデオ ゲームや没入型仮想現実 (VR) エクスペリエンスからChatGPT 、 AI モデルのトレーニング、ビッグ データ分析まで、アクセラレータは急速に進化するハイパーコネクテッドな世界に不可欠な要素です。多くの現代の企業は、クラウド・コンピューティング、データセンター、エッジコンピューティング、大規模言語モデル (LLM)などの最も重要なアプリケーションとインフラストラクチャ アーキテクチャを強化するためにアクセラレータに依存しています。たとえば、生成AIを検討しているビジネス・リーダーや開発者は、データセンターの最適化や、より多くの情報の処理を高速化するためにアクセラレーターに投資しています 1 。

アクセラレータは、データ処理を高速化するために幅広いビジネス アプリケーションで使用されています。特に5G のカバレッジが拡大し、IoT やエッジコンピューティングの機会が増えるにつれて、その傾向が強まります。IoT（モノのインターネット）アプリケーションは、冷蔵庫や交通流センサーなどのスマートデバイスからのデータを処理するためにアクセラレーターに依存しています。エッジコンピューティングは、より深い洞察、より迅速な応答時間、顧客体験の向上を提供できますが、それはアクセラレータの処理速度のみにかかっています。

AI に関して言えば、自然言語処理 (NLP) 、コンピューター・ビジョン、音声認識などのアプリケーションの多くは、高速コンピューティングのパワーに依存して機能します。たとえば、多くの最先端の AI アプリケーションの基盤となるneural networksでは、データを高速に分類およびクラスター化するためにAI アクセラレータが必要です。

最後に、デジタル・トランスフォーメーションとイノベーションの加速方法を模索する企業が増える中、アクセラレーテッド・コンピューティング・ソリューションは比較的低い総所有コストを実現します。アクセラレータは大量のデータを迅速かつ正確に処理できるため、AIチャットボット、金融データ分析、クラウド コンピューティングなど、ビジネス価値を生み出す可能性のあるさまざまなアプリケーションで使用できます。

アクセラレーテッド・コンピューティングは、ハードウェア、ソフトウェア、ネットワーキング・テクノロジーの組み合わせを使用して、現代の企業が最も高度なアプリケーションをPower® できるよう支援します。アクセラレータにとってクリティカルなハードウェアコンポーネントには、GPU、ASIC、FPGAなどがあります。ソフトウェアとアプリケーション プログラミング インターフェイス (API)も同様に重要であり、CUDA と OpenCL が重要な役割を果たします。

最後に、PCI Express（PCIe）やNVリンクなどのネットワーキング・ソリューションは、処理ユニットがデータが保存されているメモリやストレージ・デバイスと通信するのに役立ちます。ここでは、ハードウェア・アクセラレータ、ソフトウェア・アクセラレータ、ネットワーク・ソリューションがどのように連携して、アクセラレーテッド・コンピューティングを可能にするかについて詳しく見ていきます。

最新のハードウェア・アクセラレータは、並列処理機能により、従来のCPUよりも大幅に高速にデータを処理できます。彼らがなければ、アクセラレーテッド・コンピューティングの最も重要なアプリケーションの多くは実現できなかったでしょう。

GPU

GPU またはグラフィックス プロセッシング ユニットは、ビデオ カード、システム ボード、モバイル、パーソナル コンピューター (PC)などのさまざまなデバイス上のコンピューター グラフィックスと画像処理を高速化するように設計されたハードウェア アクセラレータです。GPUアクセラレータは、コンピューターが複数のプログラムを実行するのに必要な時間を大幅に短縮します。GPU アクセラレーション コンピューティングは、AI やブロックチェーンなど、幅広いアクセラレーション コンピューティング アプリケーションで使用されます。

ASIC

ASIC（アプリケーション固有の集積回路）は、特定の目的や機能を念頭に置いて構築されたハードウェア・アクセラレータです。例えば、世界最速のAIアクセラレータの1つと考えられているWSE-3 ASICアクセラレータの場合、ディープラーニングなどです。²一部のハードウェア・アクセラレータとは異なり、ASICは再プログラムできません。ただし、単一の目的で構築されているため、通常、より汎用的なコンピューティング・タスク用に構築されたアクセラレータよりも優れたパフォーマンスを発揮します。ASICAアクセラレータのもう1つの例は、GoogleのTensor Processing Unit（TPU）です。これは、Googleが独自に開発したTensorFlowソフトウェアでNeural Networks MLのために開発されたものです。

FPGA

フィールド・プログラマブル・ゲート・アレイ（FPGA）は、特定の目的に合わせて再プログラムするには専門知識が必要となる、高度にカスタマイズ可能なAIアクセラレーターです。他のハードウェア・アクセラレータとは異なり、FPGAは特定の機能に適した独自の設計を持っており、多くの場合、リアルタイムのデータ処理を必要とします。FPGAはハードウェア・レベルで再プログラム可能で、より高度なカスタマイズが可能です。これらは、航空宇宙、IoT（モノのインターネット）アプリケーション、ワイヤレスネットワーキングソリューションでよく使用されています。

APIとソフトウェアは、アクセラレータを機能させる上でクリティカルな役割を果たし、アクセラレーテッド・コンピューティング・アプリケーションの実行に必要なハードウェアとネットワークの間のインターフェースになります。

API

API（アプリケーション・プログラミング・インターフェース）は、アプリケーションが通信してデータを交換できるようにする一連のルールです。APIはアクセラレーテッド・コンピューティングには欠かせないもので、アプリケーション間のデータ、サービス、機能の統合に役立ちます。開発者が他のアプリケーションのデータ、サービス、機能を統合し、組織全体で共有できるようにすることで、アプリケーションとソフトウェアの開発を簡素化および加速します。APIは、ハードウェア・アクセラレータとソフトウェア・アクセラレータ間のデータ・フローを最適化し、開発者がアプリやソフトウェアの開発にクリティカルなソフトウェア・ライブラリーにアクセスできるようにするものです。

CUDA

2007年にNVIDIAによって構築されたCompute Unified Device Architecture（CUDA）は、開発者がNVIDIA GPUの並列計算機能に直接アクセスできるようにするソフトウェアです。CUDAは、プログラマーが以前よりもはるかに幅広い機能にGPUテクノロジーを使用できるようにします。それ以来、CUDAが可能にしたことを基盤として、GPUハードウェアアクセラレータはさらに多くの機能を獲得してきました。おそらく最も重要なのは、レイトレーシング、カメラからの光の方向を追跡することによるコンピューター画像の生成、およびDLを可能にするテンソルコアなどです。

OpenCL

OpenCL は並列コンピューティング用に設計されたオープン ソースプラットフォームであり、GPU や FPGA を含むさまざまな種類のハードウェア アクセラレータをサポートしています。互換性が高いため、アクセラレーテッド・コンピューティング・ワークロードでさまざまな種類のコンポーネントを使用する必要がある開発者にとって理想的なツールです。OpenClのユースケースには、ゲーム、3Dモデリング、マルチメディア制作などがあります。

ネットワーキング・テクノロジーはアクセラレーテッド・コンピューティングにクリティカルであり、さまざまな処理装置と、データが保管されているメモリおよびストレージ・デバイスとの間の高速で効果的な通信を可能にします。ここでは、アクセラレーテッド・コンピューティングが依存しているさまざまな種類のネットワーキングをいくつか紹介します。

Ethernet

イーサネットは、データセンター内のサーバー間（または同じ物理空間内にあるコンピューター間）で、高速かつ柔軟なデータ転送を可能にするために広く使用されているテクノロジーの一種です。広く普及しており手頃な価格ですが、NVLinkやInfiniBandなど、他の種類のネットワークほど高速ではありません。

PCI Express（PCIe）

PCIeは、2つのデバイスを外部メモリ・ソースに接続する高速コンピュータ拡張バスです。アクセラレータは、PCIeを使用して、GPUやその他の種類のハードウェア・アクセラレータを中央コンピューティング・システムに接続します。

エヌブイリンク

NVLinkはNVIDIA独自のInterconnect® テクノロジーで、PCIeよりもはるかに高い帯域幅を提供できます。GPUと他のデバイス間での非常に効率的なデータ共有を可能にするために構築されています。

インフィニバンド

InfiniBandは、データセンター内の相互接続されたサーバー、ストレージ、またはその他のデバイス上のスイッチ・ファブリック・アーキテクチャーを定義する通信仕様です。InfiniBand Trade Associationによって構築されたこのテクノロジーは、高い性能と低遅延で際立っており、高性能なワークロードに最適です。

コンピュータ エクスプレス リンク(CXL)

CXLは、複数のインターフェイスを単一のPCIe接続に組み合わせることで、低遅延を実現し、CPUとアクセラレータ間の帯域幅を増やすのに役立つオープンInterconnect® 標準です。

AIテクノロジーの普及と超高速データ転送を可能にする5Gネットワークの拡大により、アクセラレーテッド・コンピューティングのユースケースは日々増えています。ここでは、最も一般的なものをいくつか紹介します。