Qual é a diferença entre aceleradores de IA e GPUs?

Um acelerador de IA é qualquer peça de hardware, incluindo uma unidade de processamento gráfico (GPU),usada para acelerar modelos de aprendizado de máquina (ML) e deep learning (DL), processamento de linguagem natural e outras operações de inteligência artificial (IA ).

No entanto, o termo acelerador de IA é cada vez mais usado para descrever chips de IA, como unidades de processamento neural (NPUs) ou unidades de processamento tensorial (TPUs). Embora GPUs de uso geral, originalmente projetadas para renderizar imagens e gráficos, sejam muito eficazes como aceleradores de IA, hardware de IA dedicado pode oferecer poder computacional semelhante ou superior, com eficiência energética aprimorada, maior capacidade de processamento paralelo e outras otimizações valiosas para cargas de trabalho de IA.  

As unidades centrais de processamento (CPUs) padrão operam em um framework linear, respondendo às solicitações uma de cada vez e muitas vezes enfrentam demandas de processamento de dados de alto desempenho. As GPUs são projetadas de modo distinto e se destacam nessas demandas.

Com múltiplos núcleos lógicos, as GPUs dividem problemas complexos em partes menores que podem ser resolvidas simultaneamente, metodologia conhecida como processamento paralelo. Criada pela Nvidia em 2006, a API CUDA liberou o impressionante poder de processamento paralelo das GPUs. Isso permite que programadores utilizem GPUs Nvidia para processamento de uso geral em milhares de cenários, como otimização de data centers, robótica, fabricação de smartphones, mineração de criptomoedas e muito mais. 

As impressionantes capacidades de processamento paralelo da GPU também se mostraram extremamente úteis em tarefas de IA, como o treinamento de grandes modelos de linguagem (LLMs) ou de redes neurais. No entanto, com o aumento da demanda, aumenta também o consumo de energia. Além disso, GPUs de alto desempenho são notoriamente caras e consomem muita energia. 

Apesar de serem ideais para aplicações de IA como o processamento de grandes conjuntos de dados, as GPUs não foram projetadas especificamente para uso em modelos de IA. Como processador gráfico, a GPU comum dedica parte de seus núcleos lógicos a tarefas relacionadas a imagens. Essas funções englobam codificação e decodificação de vídeo, cálculo de valores de cor e diversos processos de renderização, essenciais para edição de vídeo, modelagem 3D e jogos. Os chips aceleradores de IA, no entanto, são ajustados para lidar apenas com as tarefas necessárias para a IA. 

De modo geral, uma GPU precisa processar rapidamente grandes (mas não enormes) volumes de dados para renderizar gráficos complexos e dinâmicos em tempo real. Dessa forma, as GPUs priorizam operações de baixalatência para garantir uma qualidade de imagem alta e constante.

Embora a velocidade importe nos modelos de IA, os conjuntos de dados de IA são muito maiores do que a demanda média de uma GPU. Ao contrário das GPUs, os aceleradores de IA são feitos para otimizar largura de banda e, consequentemente, também costumam apresentar melhor eficiência energética. 

Apesar de as GPUs servirem como aceleradores de IA, elas podem não ser a melhor escolha diante de um acelerador de IA mais especializado. As principais diferenças entre GPUs de uso geral e chips de IA especializados estão na especialização, eficiência, acessibilidade e utilidade.

• Especialização: as GPUs são projetadas para processamento paralelo avançado e podem ser reutilizadas em diversas tarefas exigentes. No entanto, elas se especializam em tarefas de processamento de vídeo e gráficos e são usadas principalmente para esses fins. 

• Eficiência: as GPUs são conhecidas por consumirem grandes quantidades de eletricidade e não são consideradas soluções eficientes em termos de recursos. O alto consumo de energia pode prejudicar a escalabilidade de qualquer operação que dependa de uma GPU ou GPUs como principal tipo de processador. 

• Acessibilidade: as GPUs são fabricadas por diversos grandes fornecedores, como AMD, Nvidia e Intel, e estão amplamente disponíveis, embora a maior demanda possa elevar seus preços. Por estarem há muitos anos no mercado, GPUs também contam com uma comunidade sólida de recursos pré-existentes e são facilmente programadas via frameworks como CUDA. 

• Casos de uso: as GPUs são os processadores padrão para jogos, animação por computador e processamento de vídeo. O processamento paralelo das GPUs também as torna úteis em outras aplicações que exigem processamento de dados em grande escala, como data centers, mineração de criptomoedas e certos casos de uso de IA.

• Especialização: os aceleradores de IA foram projetados para tarefas de IA e podem ser ainda mais ajustados para tipos específicos de aplicações de IA. Embora os aceleradores de IA possam agregar valor a sistemas que executam funções não relacionadas à IA, eles foram projetados especificamente para tarefas de IA e funcionam melhor nesse contexto.

• Eficiência: os aceleradores de IA geralmente são criados para aplicações bastante específicas e costumam ser muito mais eficientes que as GPUs, oferecendo processamento paralelo semelhante com uso bem menor de energia. Os aceleradores de IA conseguem eliminar funcionalidades desnecessárias presentes nas GPUs voltadas ao processamento gráfico, otimizando seu desempenho para tarefas de IA, como os cálculos curtos e repetitivos e os algoritmos usados em redes neurais.

• Acessibilidade: os aceleradores de IA surgiram mais recentemente do que as GPUs e, em geral, ainda são menos acessíveis. Aceleradores de IA proprietários, como a TPU (Unidade de Processamento Tensorial) do Google, podem ter disponibilidade mais limitada no mercado em geral. No entanto, comunidades de aprendizado de máquina, como o Pytorch e o TensorFlow de código aberto, estão ampliando o acesso aos aceleradores de IA por meio de bibliotecas cada vez maiores de ferramentas e recursos. 

• Casos de uso: por se tratar de um hardware mais especializado, os casos de uso dos aceleradores de IA são mais restritos que os das GPUs, voltando-se a tarefas exigentes de IA, como computer vision/reconhecimento de imagens, processamento de linguagem natural e veículos autônomos. No entanto, à medida que a IA se integra ao nosso cotidiano, os fabricantes começaram a incorporar aceleradores de IA, como as NPUs, a dispositivos eletrônicos mais comuns, como notebooks e smartphones.  

Para aplicações de IA, uma GPU pode ser uma boa solução de uso geral, assim como uma caminhonete serve como equilíbrio entre um carro esportivo e um caminhão de 18 rodas. Um caminhão de 18 rodas é mais lento que um carro esportivo, mas transporta muito mais carga. Uma caminhonete transporta certa quantidade de carga e é mais rápida que um caminhão de 18 rodas, embora mais lenta que um carro esportivo.

A GPU se assemelha a uma caminhonete, mas dependendo das prioridades da aplicação de IA, um chip de IA mais especializado, como um veículo mais específico, pode ser a melhor escolha. 

As unidades de processamento gráfico, também chamadas de unidades gráficas, surgiram nos anos 1990 para aliviar a carga de processamento dos CPUs, à medida que os sistemas deixaram de ser baseados em texto e os sistemas operacionais gráficos e os videogames começaram a se popularizar.

Desde a criação do computador moderno no início dos anos 1950, o CPU sempre foi responsável pelas tarefas computacionais mais críticas, incluindo o processamento de programas, a lógica e o controle de input/output (I/O).

Na década de 1990, os videogames e o design auxiliado por computador (CAD) exigiam uma forma mais eficiente de transformar dados em imagens. Esse desafio levou os engenheiros a projetarem as primeiras GPUs com uma arquitetura de chip específica, capaz de realizar processamento paralelo.

Desde 2007, quando a Nvidia lançou a plataforma de programação CUDA, os projetos de GPU se multiplicaram, com aplicações identificadas em diversos setores e muito além do processamento gráfico (embora a renderização de gráficos ainda seja a aplicação mais comum da maioria das GPUs). 

Embora existam centenas de variedades de GPUs que variam em desempenho e eficiência, a grande maioria se enquadra em uma das três principais categorias:

• Discretas: as GPUs dedicadas, ou dGPUs, funcionam separadamente do CPU do sistema. Por serem componentes de hardware distintos, as dGPUs costumam ser utilizadas em aplicações avançadas, como edição de vídeo em larga escala ou jogos de alto desempenho. 

• Integradas: as GPUs integradas, ou iGPUs, são construídas diretamente na infraestrutura do sistema e combinadas com a CPU. As GPUs integradas oferecem uma infraestrutura simplificada sem comprometer o desempenho e são frequentemente utilizadas em notebooks e consoles portáteis de jogos. 

• Virtual: as GPUs virtuais oferecem as mesmas funcionalidades das demais GPUs, mas sem depender de hardware físico. Uma GPU virtual utiliza software de virtualização para gerar uma GPU baseada em código, ideal para aplicações na nuvem. Como não exigem hardware dedicado, as GPUs virtuais são mais simples e econômicas de implementar e manter. 

Embora o termo acelerador de IA englobe qualquer hardware destinado a acelerar aplicações de inteligência artificial, ele costuma designar chips especializados, otimizados para tarefas específicas de modelos de IA.

Embora sejam considerados hardware altamente especializado, aceleradores de IA são desenvolvidos e empregados por empresas consolidadas como IBM, Amazon Web Services (AWS) e Microsoft, além de startups como a Cerebras. À medida que a IA amadurece e se populariza, aceleradores de IA e seus toolkits de suporte tornam-se mais frequentes. 

Antes da criação dos primeiros aceleradores dedicados, as GPUs de uso geral eram (e ainda são) amplamente empregadas em aplicações de IA, especialmente por seu poder de processamento paralelo. Contudo, com o avanço das pesquisas em IA ao longo dos anos, engenheiros passaram a buscar aceleradores de IA que ofereçam maior eficiência energética e otimizações específicas. 

Os aceleradores de IA apresentam variações de desempenho e de especialização, e certas soluções proprietárias são exclusivas de alguns fabricantes. Alguns dos tipos mais destacados de aceleradores de IA incluem os seguintes:

• GPUs: como um acelerador de IA de uso geral, as GPUs são valorizadas por seu paralelismo poderoso. No entanto, elas apresentam alto consumo de energia e escala limitada. 

• Matrizes de portas programáveis em campo (FPGAs): As FPGAs são processadores configuráveis que podem ser programados e reprogramados para atender a demandas específicas de aplicação. Esses chips têm grande valor em prototipagem, pois podem se customizar e ajustar ao longo do desenvolvimento para atender a requisitos de aplicação emergentes. 

• Circuitos integrados de aplicação específica (ASICs): Os ASICs são chips personalizados criados para executar tarefas específicas. Por serem feitos sob medida para sua função, os ASICs costumam apresentar alta otimização em desempenho e consumo de energia. 

• Unidades de processamento neural (NPUs): a arquitetura das NPUs imita os caminhos neurais do cérebro humano e prioriza o fluxo de dados e a hierarquia de memória para processar cargas de trabalho de IA em tempo real.

• Unidades de processamento tensorial (TPUs): semelhantes às NPUs, as TPUs são aceleradores de IA proprietários da Google, criados para realizar em grande escala cálculos de baixa precisão, como as operações de tensor em multiplicações de matrizes comuns nos modelos de IA. Embora a maioria dos aceleradores de IA execute esses cálculos, as TPUs se otimizam para a plataforma TensorFlow da Google. 

Embora uma GPU disponível comercialmente ofereça vantagens como disponibilidade e acessibilidade, aceleradores de IA mais especializados geralmente superam tecnologias anteriores em três aspectos fundamentais: velocidade, eficiência e design.

Os aceleradores modernos de IA, inclusive GPUs, superam amplamente os CPUs em processamento de grandes volumes de dados com baixa latência. Para aplicações críticas, como sistemas de veículos autônomos, a velocidade se torna essencial. As GPUs são melhores que os CPUs, mas os ASICs criados para aplicações específicas, como a computer vision usada em carros autônomos, são ainda mais rápidos. 

Os aceleradores de IA projetados para tarefas específicas podem ser de 100 a 1.000 vezes mais eficientes em energia do que as GPUs, que demandam muita energia. A eficiência aprimorada pode gerar redução drástica de despesas operacionais e, mais importante, causar muito menos impacto ambiental. 

Os aceleradores de IA utilizam uma arquitetura de chip chamada design heterogêneo, que permite a múltiplos processadores dar suporte a tarefas separadas e aumenta o desempenho de computação por meio de processamento paralelo avançado. 

Como as GPUs também são consideradas aceleradores de IA, seus casos de uso frequentemente se sobrepõem aos de hardwares de IA mais especializados. Com o tempo, poderemos ver as GPUs ficarem em segundo plano nos aplicativos de IA. 

As GPUs versáteis ainda são amplamente usadas em IA e em outros tipos de aplicações, e isso certamente continuará. As GPUs são empregadas em diversas aplicações que exigem paralelismo avançado, incluindo as seguintes:

• Inteligência artificial, aprendizado de máquina e deep learning: embora novas gerações de aceleradores de IA possam um dia substituir as GPUs em aplicações de inteligência artificial, as GPUs provavelmente continuarão muito valiosas como coprocessadores dentro de sistemas de IA. Atualmente, as GPUs servem de base para muitas dos principais aplicações de IA, como o supercomputador de IA nativo da nuvem Vela, da IBM, que exigem altas velocidades para treinar em conjuntos de dados cada vez maiores. As GPUs continuam a agregar valor a aplicações de aprendizado de máquina e deep learning, por exemplo no treinamento de redes neurais. 

• Blockchain:  a tecnologia blockchain de zero trust é usada para registrar transações em livros-razão virtual e é a base para criptomoedas populares como o Bitcoin. O poder de processamento avançado das GPUs continua muito valorizado em aplicações de blockchain, principalmente em operações “proof-of-work” que validam transações no ledger. 

• Gráficos: aplicações que exigem renderização gráfica de alto desempenho dependem de GPUs. As GPUs são parte integrante de grandes setores, incluindo jogos, edição de vídeo e criação de conteúdo. As GPUs também exercem papel importante em tarefas de visualização e simulação, como modelagem 3D, previsão do tempo, imagens médicas, sísmicas e geofísicas. 

Conforme a tecnologia de IA evolui, componentes de hardware especializado ganham espaço de forma crescente. Ao incorporar o poder de processamento paralelo das GPUs e descartar funcionalidades desnecessárias, aceleradores ASIC de IA têm sido usados em uma gama crescente de aplicações, incluindo as seguintes:

• Veículos autônomos: capazes de processar dados em tempo real, aceleradores de IA especializados tornaram-se componente crítico nos sistemas de veículos autônomos, onde cada milissegundo faz diferença. Os aceleradores de IA capturam e processam dados de sensores de input, incluindo câmeras e LiDAR, permitindo que veículos autônomos interpretem e reajam ao ambiente ao seu redor. 

• Edge computing e edge AI: edge computing e edge AI referem-se a infraestruturas de frameworks que aproximam aplicações e poder de processamento de fontes de dados na nuvem, como dispositivos Internet das Coisas (IoT), facilitando conexões mais rápidas e seguras. A IA em nuvem pode gerar riscos de segurança, e aceleradores de IA ajudam a executar modelos localmente, diminuindo as chances de comprometimento de dados sensíveis. 

• IA generativa: os modelos de IA generativa, como LLMs, dependem de aceleradores de IA para processamento de linguagem natural, ajudando o modelo de IA a entender comandos de conversa casual e produzir respostas fáceis de entender em aplicações como chatbot.