FPGA et GPU : quelle est la meilleure option pour l’apprentissage profond ?

Sous-jacent à la plupart des applications d’intelligence artificielle (IA), l’apprentissage profond est un sous-ensemble du machine learning qui fait appel à des réseaux neuronaux multicouches pour simuler la capacité de prise de décision complexe du cerveau humain. Au-delà de l’intelligence artificielle (IA), l’apprentissage profond est à l’origine de nombreuses applications qui améliorent l’automatisation, y compris les produits et services quotidiens tels que les assistants digitaux, l’électronique grand public à commande vocale, la détection des fraudes à la carte bancaire et bien d’autres encore. Il est principalement employé pour des tâches telles que la reconnaissance vocale, le traitement d’images et la prise de décisions complexes, où il peut « lire » et traiter un grand volume de données afin d’effectuer des calculs complexes de manière efficace.

Le deep learning demande une puissance de calcul considérable. En règle générale, des unités de traitement graphique (GPU) hautes performances sont idéales, car elles peuvent gérer un grand volume de calculs dans plusieurs cœurs avec une mémoire disponible généreuse. Cependant, la gestion de plusieurs GPU sur site peut créer une forte demande en ressources internes et être extrêmement coûteuse à dimensionner. Les réseaux de portes programmables in situ (FPGA) constituent également une solution polyvalente qui, bien que potentiellement coûteuse elle aussi, offre à la fois des performances adéquates et des possibilités de reprogrammabilité pour les applications émergentes.

Le choix du matériel influence considérablement l’efficacité, la vitesse et l’évolutivité des applications d’apprentissage profond. Lors de la conception d’un système d’apprentissage profond, il faut tenir compte des exigences opérationnelles, du budget et des objectifs pour faire le choix entre GPU et FPGA. En ce qui concerne les circuits, les GPU et les FPGA constituent tous deux des processeurs (CPU) efficaces, avec de nombreuses options disponibles auprès de fabricants tels que NVIDIA ou Xilinx, conçues pour être compatibles avec les normes PCIe (Peripheral Component Interconnect Express) modernes.

Pour comparer les cadres de conception matérielle, il est essentiel de tenir compte des éléments suivants :

• Vitesses de performance
• Consommation électrique
• Rentabilité économique
• Programmabilité
• Bande passante

Les GPU sont des types de circuits spécialisés conçus pour manipuler rapidement la mémoire afin d’accélérer la création d’images. Conçus pour un débit élevé, ils sont particulièrement efficaces pour les tâches de traitement parallèle, telles que l’entraînement d’applications de deep learning à grande échelle. Même s'ils sont généralement utilisés dans des applications exigeantes comme les jeux et le traitement vidéo, leurs capacités de performance haut débit font des GPU un excellent choix pour les calculs intensifs, tels que le traitement des grands jeux de données, les algorithmes complexes et le minage de cryptomonnaies.

Dans le domaine de l’intelligence artificielle, les GPU sont choisis pour leur capacité à effectuer les milliers d’opérations simultanées nécessaires à l’entraînement et à l’inférence des réseaux neuronaux.

Les fonctionnalités principales des GPU

• Haute performance : Les GPU puissants sont capables de gérer des tâches informatiques exigeantes telles que les calculs haute performance (HPC) et les applications de deep learning.
• Traitement parallèle : les GPU excellent dans les tâches qui peuvent être fractionnées en opérations plus petites et traitées simultanément.

Si les GPU offrent une puissance de calcul exceptionnelle, leur impressionnante capacité de traitement se fait au détriment de l’efficacité énergétique et de la consommation d’énergie. Pour des tâches spécifiques telles que le traitement d’images, de signaux ou d’autres applications d’IA, les fournisseurs de GPU sur le cloud peuvent proposer une solution plus rentable grâce à des modèles de tarification par abonnement ou par paiement à l’usage.

Les avantages des GPU

• Puissance de calcul élevée : les GPU fournissent la puissance de traitement supérieure nécessaire pour les calculs complexes à virgule flottante requis lors de l’entraînement des modèles d’apprentissage profond.
• Vitesse élevée : les GPU utilisent plusieurs cœurs internes pour accélérer les opérations parallèles et permettre le traitement efficace de plusieurs opérations simultanées. Ils peuvent traiter rapidement des jeux de données volumineux et réduire considérablement le temps consacré à l’entraînement des modèles de machine learning.
• Soutien de l’écosystème : les GPU bénéficient du soutien de grands fabricants tels que Xilinx et Intel, avec des écosystèmes de développeurs robustes et des cadres des exigences tels que CUDA et OpenCL.

Défis liés aux GPU

• Consommation d'énergie : Les GPU consomment énormément d'énergie, ce qui peut augmenter les frais d'exploitation et soulever des préoccupations concernant leur impact environnemental.
• Flexibilité réduite : les GPU sont beaucoup moins flexibles que les FPGA, avec moins de possibilités d’optimisation ou de personnalisation pour des tâches spécifiques.

Pour en savoir plus sur les GPU, regardez cette vidéo :

Les FPGA sont des puces de silicium programmables qui peuvent être configurées (et reconfigurées) pour s’adapter à de multiples applications. Contrairement aux circuits intégrés spécifiques à une application (ASIC), qui sont conçus à des fins précises, les FPGA sont connus pour leur grande polyvalence, en particulier dans les applications personnalisées à faible latence. Dans les cas d’utilisation de l’apprentissage profond, les FPGA sont appréciés pour leur polyvalence, leur efficacité énergétique et leur adaptabilité. 

Bien que les GPU à usage générique ne puissent pas être reprogrammés, la reconfigurabilité des FPGA permet des optimisations d’applications spécifiques, ce qui se traduit par une réduction de la latence et de la consommation d’énergie. Cette différence clé rend les FPGA particulièrement utiles pour le traitement en temps réel dans les applications d’IA et le prototypage de nouveaux projets.

Les fonctionnalités principales des FPGA

• Matériel programmable : les FPGA peuvent être facilement configurés à l’aide de langages de description de matériel (HDL) basés sur les FPGA, tels que Verilog ou VHDL.
• Efficacité énergétique : Les FPGA consomment moins d’énergie que les autres processeurs, ce qui réduit les coûts d'exploitation et l’impact sur l’environnement. 

Bien que les FPGA ne soient pas aussi puissants que les autres processeurs, ils sont généralement plus efficaces. Pour les applications de deep learning, telles que le traitement de grands jeux de données, les GPU sont privilégiés. Cependant, les cœurs reconfigurables des FPGA permettent des optimisations personnalisées qui peuvent être mieux adaptées à des applications et à des workloads spécifiques.

Les avantages des FPGA

• Personnalisation : au cœur de la conception des FPGA, la programmabilité permet un paramétrage minutieux et le prototypage, ce qui est utile dans le domaine émergent de l’apprentissage profond.
• Faible latence : la nature reprogrammable des FPGA les rend plus faciles à optimiser pour les applications en temps réel.

Les défis des FPGA

• Faible consommation : si les FPGA sont appréciés pour leur efficacité énergétique, leur faible consommation les rend moins adaptés aux tâches plus exigeantes. 
• Configuration laborieuse : Si la programmabilité est le principal argument de vente de la puce FPGA, il faut savoir que les FPGA ne permettent pas seulement la programmabilité, ils l’exigent. La programmation et la reprogrammation des FPGA peuvent potentiellement retarder les déploiements.

Par définition, les applications d’apprentissage profond impliquent la création d’un réseau neuronal profond (DNN), un type de réseau neuronal comportant au moins trois couches (mais souvent beaucoup plus). Les réseaux neuronaux prennent des décisions par le biais de processus qui imitent la façon dont les neurones biologiques collaborent pour identifier les phénomènes, évaluer les options et parvenir à une conclusion.

Avant qu’un DNN puisse apprendre à identifier des phénomènes, à reconnaître des modèles, à évaluer des possibilités et à faire des prédictions et prendre des décisions, il doit être entraîné sur de vastes volumes de données. Or, le traitement de ces données exige une grande puissance de calcul. Les FPGA et les GPU peuvent fournir cette puissance, mais chacun présente des avantages et des inconvénients.

Les FPGA sont mieux adaptés aux applications personnalisées, à faible latence, qui requièrent une personnalisation pour des tâches spécifiques d’apprentissage profond, telles que les applications d’IA sur mesure. Les FPGA sont également adaptés aux tâches qui privilégient l’efficacité énergétique par rapport à la vitesse de traitement.

Les GPU plus puissants, en revanche, sont généralement préférés pour les tâches plus lourdes comme l’entraînement et l’exécution de grands modèles complexes. La puissance de traitement supérieure du GPU le rend mieux adapté à une gestion efficace des jeux de données plus conséquents.

Les cas d’utilisation des FPGA

Bénéficiant d’une programmabilité polyvalente, d’une efficacité énergétique et d’une faible latence, les FPGA sont souvent employés pour les tâches suivantes :

• Traitement en temps réel : applications nécessitant un traitement des signaux en temps réel et à faible latence, telles que le traitement des signaux numériques, les systèmes radar, les véhicules autonomes et les télécommunications.
• Edge computing : l’edge computing et la pratique consistant à rapprocher localement les capacités de calcul et de stockage de l’utilisateur final bénéficient de la faible consommation d’énergie et de la taille compacte des FPGA.
• Accélération matérielle personnalisée : les FPGA configurables peuvent être réglés avec précision pour accélérer des tâches spécifiques d’apprentissage profond et des clusters HPC en les optimisant pour des types de données ou des algorithmes spécifiques. 

Cas d’utilisation des GPU

Les GPU à usage général disposent généralement d’une puissance de calcul plus élevée et de fonctionnalités préprogrammées, ce qui les rend particulièrement adaptés aux applications suivantes : 

• Calcul haute performance : les GPU font partie intégrante d’opérations telles que les centres de données ou les installations de recherche qui s’appuient sur une puissance de calcul de masse pour exécuter des simulations, effectuer des calculs complexes ou gérer de grands jeux de données. 
• Modèles à grande échelle : conçus pour un traitement parallèle rapide, les GPU sont particulièrement capables de calculer un grand nombre de multiplications de matrices simultanément et sont souvent employés pour accélérer les temps d’apprentissage des modèles d’apprentissage profond à grande échelle.

Lorsque vous comparez les FPGA et les GPU, prenez en compte la puissance de l’infrastructure cloud pour vos projets d’apprentissage profond. Avec les GPU IBM sur cloud, vous pouvez provisionner les GPU NVIDIA pour les cas d’utilisation de l’IA générative, de l’IA traditionnelle, des calculs hautes performances et de la visualisation sur l’infrastructure IBM Cloud fiable, sécurisée et rentable. Accélérez votre parcours IA et HPC avec le cloud d’entreprise évolutif d’IBM.