Escale de manera eficiente con acceso bajo demanda a las GPU de NVIDIA en IBM Cloud
IBM Cloud cuenta con una amplia gama de GPU NVIDIA, como H200 y L40S, que se adaptan mejor a sus necesidades específicas y a sus cargas de trabajo de IA, como el entrenamiento, la inferencia o la afinación. Las GPU son compatibles con una amplia gama de aplicaciones, capacidades y marcos de inferencia de IA generativa, incluidos los modelos de lenguaje de gran tamaño (LLM) y los modelos multimodales (MMM). Ponga en marcha rápidamente su carga de trabajo de IA en función de sus objetivos de ubicación de la carga de trabajo con la habilitación multiplataforma, que incluye IBM Cloud Virtual Servers for VPC, IBM watsonx, Red Hat RHEL AI u OpenShift AI y arquitecturas implementables.
Implemente en función de sus requisitos
Las GPU NVIDIA se combinan con procesadores Intel Xeon de 4.ª generación en IBM Cloud Virtual Servers for VPC. Existen varias formas de adoptarlas e implementarlas en función de los requisitos de infraestructura y software.
Las GPU NVIDIA se pueden implementar a través de instancias en la nube de IBM Cloud Virtual Servers for VPC. IBM Cloud VPC está diseñado para ofrecer una alta resiliencia y seguridad dentro de una red definida por software (SDN), donde los clientes pueden crear nubes privadas aisladas sin renunciar a los beneficios esenciales de la nube pública. Las instancias en la nube con GPU NVIDIA, que también es compatible con imágenes de Red Hat Enterprise Linux AI (RHEL AI), son ideales para clientes con pilas de software altamente especializadas o que requieren un control total sobre su servidor subyacente.
Los clientes que necesitan un control total sobre toda su pila de IA, desde la infraestructura hasta la carga de trabajo, pueden implementar IBM watsonx.ai en su servidor virtual basado en GPU NVIDIA en IBM Cloud VPC. IBM watsonx.ai es un estudio de desarrollo de IA integral y completo que incluye un kit de herramientas para desarrolladores de IA y una gestión completa del ciclo de vida de la IA para desarrollar servicios de IA e implementarlos en las aplicaciones que elijan.
Los clientes que desean tener libertad para elegir marcos de IA y, al mismo tiempo, garantizar una implementación rápida y segura de sus cargas de trabajo de IA, pueden utilizar nuestras arquitecturas implementables de GPU NVIDIA en IBM Cloud.
Red Hat OpenShift AI es una plataforma flexible y escalable de inteligencia artificial (IA) y machine learning (ML) que permite a las empresas crear y ofrecer aplicaciones habilitadas para IA a escala en entornos de nube híbrida. Creada con tecnologías de código abierto, OpenShift AI proporciona capacidades fiables y operativamente coherentes para que los equipos experimenten, ofrezcan modelos y entreguen aplicaciones innovadoras.
Clúster sus instancias de GPU NVIDIA en una red de 3,2 Tbps compatible con RoCE v2
| GPU | VCPU | RAM | Configuración | ||
|---|---|---|---|---|---|
| GPU NVIDIA H200: para grandes modelos de IA tradicional e IA generativa | 8 X NVIDIA H200 141 GB | 160 | 1792 GiB | Virtual Server for VPC Red Hat OpenShift | |
| GPU NVIDIA H100: para grandes modelos de IA tradicional e IA generativa | 8 X NVIDIA H100 80 GB | 160 | 1792 GiB | Virtual Server for VPC Red Hat OpenShift | |
| GPU NVIDIA A100-PCIe: para modelos de IA tradicional e IA generativa | 1 x NVIDIA A100 80 GB 2 x NVIDIA A100 80 GB | 24 48 | 120 GB 240 GB | Virtual Server for VPC Red Hat OpenShift | |
| GPU NVIDIA L40S: para modelos pequeños y medianos | 1 X NVIDIA L40S 48 GB 2 X NVIDIA L40S 48 GB | 24 48 | 120 GB 240 GB | Virtual Server for VPC Red Hat OpenShift | |
| GPU NVIDIA L4: para modelos de IA pequeños que requieren menos memoria | 1 X NVIDIA L4 24 GB 2 X NVIDIA L4 24 GB 4 X NVIDIA L4 24 GB | 16 32 64 | 80 GB 160 GB 320 GB | Virtual Server for VPC Red Hat OpenShift | |
| GPU NVIDIA V100: para empezar con una pequeña huella de IA | 1 X NVIDIA V100 16 GB | 8 | 64 GiB | Virtual Server for VPC Red Hat OpenShift |
Explore un completo portfolio de productos de IA que aceleran el impacto de la IA generativa en los flujos de trabajo críticos para impulsar la productividad.
Cree su propio clúster Red Hat OpenShift de hosts computacionales para implementar y gestionar aplicaciones contenerizadas en servidores virtuales IBM Cloud, servidores bare metal o en su propio hardware o en la nube de terceros mediante IBM Cloud Satellite.
Elija una solución Kubernetes certificada y gestionada, diseñada para crear un clúster de hosts computacionales para implementar aplicaciones contenerizadas en IBM Cloud. IBM gestiona el nodo maestro, liberándole de los procesos del sistema operativo del host, el tiempo de ejecución y las actualizaciones de versiones.
Arquitecturas implementables en IBM Cloud que le ayudan a acelerar la innovación, mejorar la eficiencia y mantener la seguridad y el cumplimiento, a la vez que optimizan los costes
Automatice la implementación de RAG con el soporte de IBM Cloud y los servicios de watsonx e integre los datos de su empresa en soluciones de IA generativa.
Utilice máquinas virtuales altamente escalables, de un solo inquilino y multiinquilino que puede iniciar rápidamente para obtener el máximo aislamiento y control de la red.