Aceleradores de IA Intel® Gaudi® 3 na IBM Cloud

O acelerador de IA poderoso, econômico e aberto para cargas de trabalho de IA generativa.

A visão de perto do Gaudi 3 apresenta 64 núcleos de processador Tensor (TPCs) e oito mecanismos de multiplicação de matriz (MMEs)
A IBM Cloud é o primeiro provedor global de serviços de nuvem a fornecer o Intel® Gaudi® 3

Libere, inove e implemente novas soluções de IA com os aceleradores de IA Intel® Gaudi® 3 na IBM Cloud®, projetados para ajudar você a escalar de forma econômica as demandas de IA corporativa com alto desempenho, flexibilidade na implementação e desenvolvimento aberto.   

Ofereça suporte a uma ampla gama de aplicações e frameworks de inferência de IA generativa, incluindo grandes modelos de linguagem (LLM) e modelos multimodais (MMM). Comece rapidamente com a implementação dos IBM Cloud Virtual Servers for VPC. O suporte para IBM watsonx®, Red Hat® OpenShift® Kubernetes Service e uma implementação automatizada baseada em Terraform estão planejados para o primeiro semestre de 2025. O suporte para clusters Red Hat OpenShift AI, IBM Cloud Kubernetes Service e arquiteturas implementáveis na IBM Cloud estão planejados para o segundo semestre de 2025.Saiba mais sobre a tecnologia Intel Gaudi 3

Uma nova solução para a IA empresarial
Gráficos e tabelas exibidos em uma ilustração de fundo limpa
Preço e desempenho de IA competitivos

Tenha desempenho da IA generativa com boa relação custo-benefício para alto desempenho de inferência e custo total de propriedade otimizado.

 

Um ícone de nuvem que representa documentos, processos e ilustrações integradas
Dimensionamento rápido e eficiente

Aumente facilmente a escalabilidade do sistema com suporte de capacidade flexível e sem ficar preso a sistemas fechados.

Aplicação exibindo uma variedade de cores em diferentes seções e ilustração de funcionalidades
Desenvolvimento aberto, escolha na implementação

Acelere as cargas de trabalho de IA com o modelo de implementação Intel Gaudi 3 da sua escolha e elimine barreiras para desenvolvedores com modelos de código aberto em uma nuvem pública baseada em padrões abertos.

Implemente conforme sua infraestrutura e seus requisitos de software

Os aceleradores de IA Intel® Gaudi® 3 são combinados com processadores Intel® Xeon® de 5ª geração nos IBM Cloud Virtual Servers for VPC.

A visão de perto do Gaudi 3 apresenta 64 núcleos de processador Tensor (TPCs) e oito mecanismos de multiplicação de matriz (MMEs)
Provisione um servidor autônomo na IBM Cloud Virtual Private Cloud (VPC)

Os aceleradores de IA Intel Gaudi 3 podem ser implementados por meio dos IBM Cloud Virtual Servers for VPC para instâncias de nuvem. A IBM Cloud VPC foi projetada para alta resiliência e segurança dentro de uma rede definida por software, onde os clientes podem criar nuvens privadas isoladas, mantendo os benefícios essenciais da nuvem pública. A instância de nuvem Intel Gaudi 3, que também oferece suporte a imagens de IA Red Hat Enterprise Linux, é ideal para clientes com stacks de software altamente especializadas ou para aqueles que exigem controle total sobre seu servidor subjacente.

Explore a implementação de servidor
A diferença está no design
Memória de alta largura de banda (HBM)

Aumente o desempenho da IA generativa e desenvolva com mais tokens e modelos em uma única placa com 128 GB de HBM, alcançando 3,7 TB/s de largura de banda.

Ethernet padrão do setor

Elimine o bloqueio de rede e reduza os custos de integração, ampliando suas opções de comutação com Ethernet de padrão do setor.

 

Transmissão de dados de alta capacidade

Tenha alta escalabilidade, tanto horizontal (scale-out) quanto vertical (scale-up) com 24 portas de 200 GbE de RoCE de alta capacidade.

Desenvolvimento aberto

Simplifique o desenvolvimento com a extensão Intel® Gaudi® 3 para PyTorch e ajude a reduzir o tempo de desenvolvimento e a manutenção de código com uma biblioteca de modelos otimizada no Hugging Face.

Alto desempenho do núcleo

Aproveite o Intel® Gaudi® 3 Acelerador de IA Matrix Multiplication Engine com núcleos especializados de alto desempenho projetados para menos transferências de dados.

Migração simplificada

Migre modelos com apenas três linhas de código em software aberto, usando ferramentas acessíveis para desenvolvedores.

Perguntas frequentes

Os aceleradores de IA Intel® Gaudi® 3 na IBM Cloud®  foram projetados para cargas de trabalho de IA com alto desempenho, com 64 núcleos de processamento tensorial (TPCs) e oito mecanismos de multiplicação de matrizes (MMEs) para acelerar cálculos de redes neurais profundas. Os aceleradores de IA Intel® Gaudi® 3 no IBM Cloud também contam com 128 GB de memória HBM2E e oferecem até 3,7 TB/s de largura de banda, com suporte à conectividade Ethernet com padrão do setor em 24 portas de 200 GbE, totalizando 9,6 Tbps de largura de banda bidirecional para interconexão escalável de sistemas.

Os aceleradores de IA Intel® Gaudi® 3 oferecem amplo suporte a aplicações de IA, incluindo inferência, geração 3D, geração de texto, classificação, geração de vídeo, análise de sentimento, tradução, geração de imagens, resumo e perguntas e respostas, com foco em grandes modelos de linguagem (LLM), modelos multimodais e geração aumentada por recuperação (RAG).

Com 128 GB de memória HBM2E e até 3,7 TB/s de largura de banda de memória, os aceleradores de IA Intel® Gaudi® 3 na IBM Cloud ajudam a garantir uma rápida taxa de transferência de dados, reduzindo gargalos e permitindo que os desenvolvedores processem grandes conjuntos de dados de forma mais rápida e eficiente.

Os aceleradores de IA Intel® Gaudi® 3 na IBM Cloud estão instalados nos IBM Cloud Virtual Servers na IBM Cloud Virtual Private Cloud (VPC). A IBM Cloud VPC é uma rede definida por software (SDN) altamente resiliente e segura, na qual você pode construir nuvens privadas isoladas, mantendo os benefícios essenciais da nuvem pública. O perfil de Virtual Server Intel® Gaudi® 3 na IBM Cloud VPC é uma combinação pré-configurada de vCPU, RAM e armazenamento para iniciar rapidamente uma instância de Virtual Server.

Os aceleradores de IA Intel® Gaudi® 3 na IBM Cloud são compatíveis com frameworks populares, incluindo, PyTorch, ONNX e DeepSpeed. Mais de 400 mil modelos estão disponíveis no Hugging Face, otimizados para uso com a biblioteca de software Optimum Habana. O pacote completo de software Intel® Gaudi® e o suporte ao framework foram projetados para facilitar a migração, permitindo que os desenvolvedores integrem os modelos existentes com alterações mínimas no código.

 

Produtos relacionados Red Hat OpenShift on IBM Cloud
Crie seu próprio cluster de hosts de computação do Red Hat OpenShift para implementar e gerenciar aplicativos em contêineres nos IBM Cloud Virtual Servers, Bare Metal Servers ou em seu próprio hardware ou nuvem de terceiros usando o IBM Cloud Satellite.
IBM watsonx
Explore um portfólio completo de produtos de IA que ampliam o impacto da IA generativa em fluxos de trabalho essenciais, impulsionando a produtividade.
IBM Cloud Kubernetes Service
Escolha uma solução Kubernetes certificada e gerenciada, projetada para criar um cluster de hosts de computação para implementar aplicativos em contêineres na IBM Cloud. A IBM gerencia o mestre, livrando você dos processos de sistema operacional host, tempo de execução e atualização de versão.
Arquiteturas implementáveis na IBM Cloud® 
Implemente facilmente suas aplicações e sistemas em diferentes ambientes com um conjunto pré-configurado de código de infraestrutura (IaC), garantindo uma implementação sem dificuldade e permitindo que equipes de desenvolvimento e operações lancem novos recursos e atualizações com agilidade.
Padrão de Geração Aumentada por Recuperação (RAG) no IBM Cloud
Automatize a implementação de RAG com os serviços de suporte do IBM Cloud e do watsonx, integrando seus dados corporativos a soluções de IA generativa.
IBM Cloud Virtual Servers for VPC
Máquinas virtuais altamente escaláveis, de locatário único e de vários locatários, que você pode iniciar rapidamente para obter o máximo de isolamento e controle da rede.
Dê o próximo passo

Explore os aceleradores de IA Intel® Gaudi® 3 na IBM Cloud.

Configure, precifique e cote Explore a documentação