深度学习是机器学习的一个子集，它使用多层神经网络来模拟人脑的复杂决策能力，是大多数人工智能 (AI) 的基础。除了人工智能 (AI) 之外，深度学习还推动了许多提高自动化水平的应用，包括数字助理、支持语音的消费电子产品、信用卡欺诈检测等日常产品和服务。它主要用于语音识别、图像处理和复杂决策等任务，可以 "读取 "和处理大量数据，从而高效地执行复杂计算。

深度学习需要大量的计算能力。高性能图形处理单元 (GPU) 是理想的选择，因其可在多个核心中处理大量计算，且拥有充足的内存。但是，在本地管理多个 GPU 可能会对内部资源产生大量需求，且扩展成本十分高昂。另外，现场可编程门阵列 (FPGA) 提供了一种多功能解决方案，虽然成本可能较高，但它既能提供足够的性能，又能为新兴应用提供可重新编程的灵活性。

硬件的选择在很大程度上影响着深度学习应用的效率、速度和可扩展性。在设计深度学习系统时，必须权衡运行需求、预算和目标，在 GPU 和 FPGA 之间做出选择。就电路而言，GPU 和 FPGA 都是有效的中央处理器 (CPU)，NVIDIA 或 Xilinx 等制造商提供了许多与现代外设组件互连 Express (PCIe) 标准兼容的产品。

在比较硬件设计框架时，关键的考虑因素包括以下几点：

• 性能速度
• 功耗
• 成本效益
• 可编程性
• 带宽

GPU 是一种专用电路，设计用于快速处理内存以加速图像的创建。它们专为高吞吐量而设计，特别适用于并行处理任务，如训练大规模深度学习应用。虽然 GPU 通常用于游戏和视频处理等要求苛刻的应用，但其高速性能使其成为处理大型数据集、复杂算法和加密货币挖矿等密集型计算的绝佳选择。

在人工智能领域，之所以选择 GPU，是因为 GPU 能够同时执行神经网络训练和推理所需的数千种操作。

GPU 的关键功能

• 高性能：功能强大的 GPU 擅长处理高性能计算 (HPC) 和深度学习应用等要求苛刻的计算任务。
• 并行处理：GPU 擅长将任务分解成更小的操作，并同时进行处理。

虽然 GPU 具有超强的计算能力，但其令人印象深刻的处理能力是以能效和高能耗为代价的。对于图像处理、信号处理或其他 AI 应用程序等特定任务，基于云的 GPU 供应商可以通过订购或"即用即付"定价模式提供更具成本效益的解决方案。

GPU 的优势

• 高计算能力：GPU 可提供训练深度学习模型所需的复杂浮点运算所需的高端处理能力。
• 高速：GPU 利用多个内部核心来加快并行操作的速度，并能高效处理多个并发操作。GPU 可以快速处理大型数据集，大大缩短机器学习模型的训练时间。
• 生态系统支持： GPU 得到 Xilinx 和 Intel 等主要制造商的支持，并拥有强大的开发人员生态系统和框架，包括 CUDA 和 OpenCL。

GPU 挑战

• 功耗： GPU 的运行需要大量电力，这会增加运营成本，也会对环境造成影响。
• 灵活性较差：GPU 的灵活性远低于 FPGA，针对特定任务进行优化或定制的机会较少。

要深入了解 GPU，请观看以下视频：

FPGA 是可编程硅芯片，可以进行配置（和重新配置）以适应多种应用。与专为特定用途设计的专用集成电路 (ASIC) 不同，FPGA 以其高效的灵活性而著称，尤其是在定制、低延迟应用中。在深度学习用例中，FPGA 因其多功能性、高能效和高适应性而备受青睐。 

通用 GPU 无法重新编程，而 FPGA 的可重新配置性允许对特定应用进行优化，从而降低延迟和功耗。这一关键区别使得 FPGA 特别适用于 AI 应用中的实时处理和新项目的原型开发。

FPGA 的主要特点

• 可编程硬件：使用基于 FPGA 的硬件描述语言 (HDL)，如 Verilog 或 VHDL，可轻松配置 FPGA。
• 功率效率： 与其他处理器相比，FPGA 的功耗更低，从而降低了运营成本和对环境的影响。 

虽然 FPGA 可能不如其他处理器强大，但它们通常更高效。对于处理大型数据集等深度学习应用，GPU 更受青睐。不过，FPGA 的可重新配置核心允许进行定制优化，这可能更适合特定应用和工作负载。

FPGA 优势

• 定制：可编程性是 FPGA 设计的核心，它支持微调和原型设计，在新兴的深度学习领域非常有用。
• 低延迟：FPGA 的可重新编程特性使其更容易针对实时应用进行优化。

FPGA 面临的挑战

• 低功耗：虽然 FPGA 因其能效而备受推崇，但其低功耗使其不太适合要求更高的任务。
• 劳动密集型：虽然可编程性是 FPGA 芯片的主要卖点，但 FPGA 不仅提供可编程性，还需要可编程性。FPGA 编程和重新编程可能会延迟部署。

根据定义，深度学习应用涉及创建深度神经网络 (DNN)，这是一种至少有三层（但可能更多层）的神经网络。神经网络通过模仿生物神经元协同工作的方式来识别现象、权衡选项并得出结论，从而做出决策。

在 DNN 学会识别现象、识别模式、评估可能性并做出预测和决策之前，它们必须在大量数据上接受训练。而处理这些数据需要大量的计算能力。FPGA 和 GPU 可以提供这种能力，但两者各有优缺点。

FPGA 最适合用于定制的低延迟应用，这些应用需要针对特定的深度学习任务进行定制，例如定制的 AI 应用程序。FPGA 还非常适合重视能效而非处理速度的任务。

另一方面，对于训练和运行大型复杂模型等较繁重的任务，通常会优先选择性能更强的 GPU。GPU 的超强处理能力使其更适合有效管理大型数据集。

FPGA 用例

由于具有多功能可编程性、高能效和低延迟等优点，FPGA 通常用于以下用途：

• 实时处理：需要低延迟、实时信号处理的应用，如数字信号处理、雷达系统、自动驾驶汽车和电信。
• 边缘计算：边缘计算以及将计算和存储能力更靠近本地终端用户的做法，得益于 FPGA 的低功耗和紧凑尺寸。
• 定制硬件加速：通过优化特定类型的数据类型或算法，可对可配置 FPGA 进行微调，以加速特定的深度学习任务和 HPC 集群。 

GPU 用例

通用 GPU 通常具有更高的计算能力和预编程功能，因此非常适合以下应用： 

• 高性能计算： GPU 是数据中心或研究机构等运行中不可或缺的元素，这些机构依赖大量计算能力来运行模拟、执行复杂计算或管理大型数据集。 
• 大规模模型：GPU 专为快速并行处理而设计，尤其擅长并发计算大量矩阵乘法，通常用于加快大规模深度学习模型的训练时间。

在比较 FPGA 和 GPU 时，请考虑将云基础设施的功能用于深度学习项目。借助 IBM GPU on cloud，您可以在可信、安全且经济高效的 IBM Cloud 基础架构上为生成式 AI、传统 AI、HPC 和可视化用例配置 NVIDIA GPU。利用 IBM 可扩展的企业云加速您的 AI 和 HPC 之旅。