Escale com eficiência com acesso sob demanda às GPUs NVIDIA na IBM Cloud
O IBM® Cloud tem uma ampla variedade de GPUs NVIDIA, como B300 e L40S, para atender melhor às suas necessidades específicas e cargas de trabalho de IA, como treinamento, inferência ou ajuste fino. As GPUs oferecem suporte a uma ampla variedade de aplicações, recursos e frameworks de inferência de IA generativa, incluindo modelos de linguagem grandes (LLM) e modelos multimodais (MMM). Coloque sua carga de trabalho de IA em produção rapidamente com base em suas metas de posicionamento da carga de trabalho, com ativação em várias plataformas, incluindo IBM Cloud Virtual Servers for VPC, IBM watsonx, Red Hat RHEL AI ou OpenShift AI e arquiteturas implementáveis.
Implemente com base em seus requisitos
As GPUs NVIDIA são combinadas com os processadores Intel® Xeon® de 4ª geração nos IBM Cloud Virtual Servers for VPC. Há várias maneiras de adotar e implementar com base em seus requisitos de infraestrutura e software.
As GPUs NVIDIA podem ser implementadas através dos IBM Cloud Virtual Servers for VPC para instâncias de nuvem. A IBM Cloud VPC foi projetada para alta resiliência e segurança dentro de uma rede definida por software (SDN), onde os clientes podem criar nuvens privadas isoladas, mantendo os benefícios essenciais da nuvem pública. As instâncias de nuvem da GPU NVIDIA, que também oferece suporte a imagens de IA Red Hat Enterprise Linux (IA RHEL), são ideais para clientes com stacks de software altamente especializadas ou para aqueles que exigem controle total sobre seu servidor subjacente.
Clientes que precisam de controle total sobre toda a sua stack de IA, da infraestrutura à carga de trabalho, podem implementar o IBM watsonx.ai® em seu servidor virtual com GPU NVIDIA no IBM Cloud VPC. O IBM watsonx.ai é um estúdio de desenvolvimento de IA completo, integrado e de ponta a ponta, que oferece um kit de ferramentas para desenvolvedores de IA e gerenciamento completo do ciclo de vida da IA, permitindo criar serviços de IA e implementá-los nas aplicações que você escolher.
Clientes que desejam liberdade para escolher frameworks de IA e, ao mesmo tempo, garantir uma implementação rápida e segura de suas cargas de trabalho de IA, podem utilizar nossas arquiteturas implantáveis de GPUs NVIDIA no IBM Cloud.
O Red Hat OpenShift AI é uma plataforma de inteligência artificial (IA) e aprendizado de máquina (ML) flexível e escalável, que permite às empresas criar e entregar aplicações com IA em larga escala em ambientes de nuvem híbrida. Desenvolvido com tecnologias open source, o OpenShift AI oferece recursos confiáveis e consistentes para que as equipes possam experimentar, disponibilizar modelos e entregar aplicações inovadoras.
Agrupe suas instâncias de GPU NVIDIA em uma rede de 3,2 Tbps com suporte a RoCE v2
| GPU | vCPU | RAM | Configurar | ||
|---|---|---|---|---|---|
| GPU NVIDIA B300 – Para modelos grandes de IA tradicional e IA generativa | 8 X NVIDIA B300 288 GB | 232 | 3840 GiB | Abra um caso aqui se tiver interesse | |
| GPU NVIDIA H200 - Para grandes modelos de IA tradicional e IA generativa | 8 X NVIDIA H200 141 GB | 160 | 1792 GiB | Servidor virtual para VPC Red Hat OpenShift | |
| GPU NVIDIA H100 - Para grandes modelos de IA tradicional e IA generativa | 8 x NVIDIA H100 80 GB | 160 | 1792 GiB | Servidor virtual para VPC Red Hat OpenShift | |
| GPU NVIDIA A100-PCIe - para modelos de IA tradicional e IA generativa | 1 x NVIDIA A100 80 GB 2 x NVIDIA A100 80 GB | 24 48 | 120 GB 240 GB | Servidor virtual para VPC Red Hat OpenShift | |
| GPU NVIDIA L40S - Para modelos de pequeno a médio porte | 1 x NVIDIA L40S 48 GB 2 X NVIDIA L40S 48 GB | 24 48 | 120 GB 240 GB | Servidor virtual para VPC Red Hat OpenShift | |
| GPU NVIDIA L4 - Para modelos de IA pequenos que exigem menos memória | 1 x NVIDIA L4 24 GB 2 x NVIDIA L4 24 GB 4 x NVIDIA L4 24 GB | 16 32 64 | 80 GB 160 GB 320 GB | Servidor virtual para VPC Red Hat OpenShift | |
| GPU NVIDIA V100 - Para começar com um pequeno passo na IA | 1 X NVIDIA V100 16 GB | 8 | 64 GiB | Servidor virtual para VPC Red Hat OpenShift |
Explore um portfólio completo de produtos de IA que ampliam o impacto da IA generativa em fluxos de trabalho essenciais, impulsionando a produtividade.
Traga aplicações e iniciativas de IA de missão crítica ao mercado com o Red Hat AI InstructLab™, o Red Hat OpenShift AI e o Red Hat Enterprise Linux AI.
Escolha uma solução Kubernetes certificada e gerenciada, projetada para criar um cluster de hosts de computação para implementar aplicativos em contêineres na IBM Cloud. A IBM gerencia o mestre, livrando você dos processos de sistema operacional host, tempo de execução e atualização de versão.
Arquiteturas implementáveis no IBM Cloud que ajudam você a acelerar a inovação, aumentar a eficiência e manter a segurança e a conformidade, otimizando os custos
Automatize a implementação de RAG com os serviços de suporte do IBM Cloud e do watsonx, integrando seus dados corporativos a soluções de IA generativa.
Use máquinas virtuais altamente escaláveis, de locatário único e multilocatário, que podem ser iniciadas rapidamente para obter o máximo de isolamento e controle de rede.