El acelerador de IA poderoso, rentable y abierto para cargas de trabajo de IA generativa.
Desbloquee, innove e implemente nuevas soluciones de IA con los aceleradores de IA Intel® Gaudi® 3 en IBM Cloud, diseñados para ayudarle a escalar de forma rentable para satisfacer las demandas de IA de su empresa con un alto rendimiento, flexibilidad en el despliegue y desarrollo abierto.
Admite una amplia gama de aplicaciones y marcos de inferencia de IA generativa, incluidos modelos de lenguaje de gran tamaño (LLM) y modelos multimodales (MMM). Comience rápidamente con IBM® Cloud Virtual Servers for VPC or Red Hat OpenShift Kubernetes Service. El soporte para IBM® watsonx, los clústeres de IA de Red Hat OpenShift, IBM® Cloud Kubernetes Service, las arquitecturas desplegables en IBM Cloud y un despliegue automatizado basado en Terraform están previstos para el segundo semestre de 2025.
Aprenda más sobre la tecnología Intel Gaudi 3
Los aceleradores de IA Intel® Gaudi® 3 se combinan con procesadores Intel® Xeon® de quinta generación en IBM Cloud Virtual Servers for VPC.
Los aceleradores de IA Intel Gaudi 3 se pueden desplegar a través de IBM Cloud Virtual Server for VPC para instancias de nube. IBM Cloud VPC está diseñado para una alta resiliencia y seguridad dentro de una red definida por software donde los clientes pueden crear nubes privadas aisladas mientras mantienen los beneficios esenciales de la nube pública. La instancia en la nube Intel Gaudi 3, que también admite imágenes de IA de Red Hat Enterprise Linux, es ideal para clientes con pilas de software altamente especializadas o para aquellos que requieren un control total sobre su servidor subyacente.
Dé los primeros pasos con los aceleradores de IA Intel® Gaudi® 3 en IBM Cloud.
Explore las guías de provisioning, los tutoriales de introducción, los detalles del perfil y más.
Aprenda más sobre IBM Cloud Virtual Private Cloud.
Explore las guías de provisioning, los tutoriales de introducción y mucho más.
Realice un recorrido por el estudio para desarrolladores de watsonx.ai.
Aprenda a crear instrucciones, experimentar con modelos fundacionales y construir modelos de aprendizaje automático (ML).
Vea la asociación en acción con esta mirada detrás de escena a Intel Gaudi 3 en IBM Cloud
Vea y descargue insights rápidos sobre Intel Gaudi 3 en IBM Cloud
Vea y descargue insights rápidos sobre todos los productos y servicios relacionados con la asociación que se ofrecen en IBM Cloud
Preguntas frecuentes
Los aceleradores Intel® Gaudi® 3 AI en IBM Cloud están diseñados para cargas de trabajo de IA de alto rendimiento y cuentan con 64 núcleos de procesamiento tensorial (TPC) y ocho motores de multiplicación de matrices (MME) para ayudar a acelerar los cálculos de redes neuronales profundas. Los aceleradores de IA Intel® Gaudi® 3 en IBM Cloud también están equipados con 128 GB de memoria HBM2E y ofrecen hasta 3,7 TB/s de ancho de banda de memoria, además de ser compatibles con redes Ethernet estándar del sector con 24 puertos de 200 GbE, lo que proporciona 9.6 Tbps de ancho de banda bidireccional para una interconectividad de sistemas escalable.
Los aceleradores de IA Intel® Gaudi® 3 ofrecen una amplia compatibilidad con aplicaciones de IA, incluyendo inferencia, generación 3D, generación de texto, clasificación, generación de vídeo, sentimiento, traducción, generación de imágenes, resumen y preguntas y respuestas, con especial atención a los modelos multimodales, los modelos de lenguaje de gran tamaño (LLM) y la generación aumentada por recuperación (RAG).
Con 128 GB de memoria HBM2E y hasta 3,7 TB/s de ancho de banda de memoria, los aceleradores de IA Intel® Gaudi® 3 en IBM Cloud ayudan a garantizar un procesamiento de datos rápidos, reducir los cuellos de botella y permitir a los desarrolladores procesar enormes conjuntos de datos de manera más rápida y eficaz.
Los aceleradores de IA Intel® Gaudi® 3 en IBM Cloud se integran en IBM Cloud Virtual Servers en IBM Cloud Virtual Private Cloud (VPC). IBM Cloud VPC es una red definida por software (SDN) altamente resiliente y segura en la que puede crear nubes privadas aisladas sin renunciar a los beneficios esenciales de la nube pública. El perfil de servidor virtual Intel® Gaudi® 3 en IBM Cloud VPC es una combinación preconfigurada de vCPU, RAM y almacenamiento para iniciar rápidamente una instancia de servidor virtual.
Los aceleradores de IA Intel® Gaudi® 3 en IBM Cloud son compatibles con marcos populares, como
, PyTorch, ONNX, and DeepSpeed. Hay más de 400 000 modelos disponibles en Hugging Face, optimizados para su uso con la biblioteca de software Optimum Habana. El paquete completo de software Intel® Gaudi®
y la compatibilidad con marcos están diseñados para facilitar la migración, lo que permite a los desarrolladores integrar los modelos existentes con cambios mínimos en el código.
Cree su propio clúster de hosts de Red Hat OpenShift para desplegar y gestionar aplicaciones en contenedores en IBM Cloud Virtual Servers, IBM Cloud Bare Metal Servers o en su propio hardware o nube de terceros mediante IBM Cloud Satellite.
Explore una cartera completa de productos de IA que aceleran el impacto de la IA generativa en los flujos de trabajo principales para impulsar la productividad.
Elija una solución de Kubernetes certificada y gestionada, diseñada para crear un clúster de hosts informáticos para desplegar aplicaciones en contenedores en IBM Cloud. IBM gestiona el maestro, liberándolo de los procesos de SO host, tiempo de ejecución y actualización de versiones.
Despliegue fácilmente sus aplicaciones y sistemas en varios entornos con un conjunto preconfigurado de código de infraestructura (IaC) para un despliegue fluido que facilita a los desarrolladores y equipos de operaciones la implementación rápida de nuevas características y actualizaciones del sistema.
Automatice el despliegue de RAG con el soporte de IBM Cloud y los servicios de watsonx e integre los datos de su empresa en una solución de IA generativa.
Máquinas virtuales altamente escalables, de uno y de varios inquilinos, que puede lanzar rápidamente para obtener el máximo aislamiento y control de la red.