¿Qué es un centro de datos de IA?

21 de febrero de 2025

 

Autores

Alexandra Jonker

Editorial Content Lead

Alice Gomstyn

IBM Content Contributor

¿Qué es un centro de datos de IA?

Un centro de datos de IA es una Facilidad que alberga la infraestructura de TI específica necesaria para entrenar, desplegar y entregar aplicaciones y servicios de IA. Tiene arquitecturas avanzadas de computación, red y almacenamiento y capacidades de energía y refrigeración para manejar cargas de trabajo de IA.
 

Si bien los centros de datos tradicionales contienen muchos de los mismos componentes que un centro de datos de IA, su potencia informática y otras capacidades de infraestructura de TI varían mucho. Las organizaciones que quieran capitalizar los beneficios de la tecnología de IA se beneficiarían del acceso a la infraestructura de IA necesaria .

Hay muchas vías de acceso, y la mayoría de las compañías no necesitarán construir sus propios centros de datos de IA desde cero, una compañía monumental. Opciones como la nube híbrida y la colocación redujeron la barrera de entrada para que organizaciones de todos los tamaños puedan aprovechar el valor de la IA.

Centros de datos de IA vs. centros de datos tradicionales

Los centros de datos de IA comparten muchas similitudes con los centros de datos tradicionales. Cada uno contiene hardware, como servidores, almacenamiento y equipamiento de red. Los operadores de ambos deben considerar aspectos como la seguridad, la confiabilidad, la disponibilidad y la eficiencia energética.

Las diferencias entre estos dos tipos de centros de datos se derivan de las extraordinarias demandas de las cargas de trabajo de IA de alta intensidad. A diferencia de los centros de datos de IA, los centros de datos típicos contienen una infraestructura que rápidamente se vería abrumada por las cargas de trabajo de IA. La infraestructura lista para IA está especialmente diseñada para la nube, la IA y las tareas de machine learning.

Por ejemplo, es más probable que los centros de datos convencionales estén diseñados para unidades centrales de procesamiento (CPU) y las contengan. Mientras que los centros de datos listos para IA requieren unidades de procesamiento de gráficos (GPU) de alto rendimiento y sus consideraciones de infraestructura de TI, como capacidades avanzadas de almacenamiento, redes, energía y refrigeración. A menudo, la gran cantidad de GPU necesarias para los casos de uso de IA también requiere muchos más pies cuadrados. 

Diseño 3D de pelotas rodando en una pista

Las últimas novedades e insights sobre IA

Descubra insights y noticias de expertos sobre IA, la nube y mucho más en el boletín semanal Think. 

Hiperescala vs. colocación

"Hiperescala" y "colocation" describen dos tipos de centros de datos comúnmente utilizados por las organizaciones para la IA.

Hiperescala

Los centros de datos a hiperescala son enormes, incluyen al menos 5000 servidores y ocupan al menos 10 000 pies cuadrados de espacio físico. Proporcionan capacidades de escalabilidad extremas y están diseñados para cargas de trabajo a gran escala (como la IA generativa). Los proveedores de servicios en la nube, como Amazon Web Services (AWS), Microsoft Azure y Google Cloud Platform (GCP), las utilizan en todo el mundo para diversos fines que incluyen la inteligencia artificialla automatización, los analytics de datos, el almacenamiento de datos y el procesamiento de datos entre otros.

Colocación

Un centro de datos de colocación se refiere a una situación en la que una empresa posee un centro de datos de hiperescala y alquila sus facilidades, servidores y ancho de banda a otras empresas.

Esta configuración permite a las empresas disfrutar de los beneficios de la hiperescala, sin una gran inversión. Algunos de los mayores usuarios de servicios de colocación del mundo son Amazon (AWS), Google y Microsoft. Por ejemplo, estos proveedores de servicios en la nube alquilan un espacio significativo en el centro de datos de un operador de centros de datos llamado Equinix. Luego, ponen a disposición de los clientes el espacio recién adquirido y lo alquilan a otras empresas.

Academia de IA

¿Es la gestión de datos el secreto de la IA generativa?

Explore por qué los datos de alta calidad son esenciales para el uso exitoso de la IA generativa.

El crecimiento de los centros de datos de IA

En una entrada de blog de principios de 2025, Microsoft nombró a la IA como la "electricidad de nuestra era". Queda por ver si esa declaración es hipérbole o acertada. Sin embargo, la adopción de herramientas de IA, como ChatGPT de OpenAI, por parte de millones de usuarios no expertos ha avanzado a un ritmo electrizante, después de moverse a un ritmo electrizante. Este claro potencial de productividad y monetización de las capacidades de IA ha llevado a un flujo intenso de nuevas herramientas de productividad, agentes y generadores de contenido de IA.

Los modelos de código abierto y la continua democratización de la IA significan que no son solo los principales actores los que están haciendo olas en el ecosistema de la IA. Casi cualquier entidad puede ser una empresa de tecnología, si puede identificar un caso de uso de IA y adoptar la infraestructura de TI para hacerlo. Según un informe de 2024 del IBM Institute for Business Value (IBM IBV), el 43 % de los altos ejecutivos tecnológicos afirman que sus preocupaciones sobre su infraestructura tecnológica han aumentado en los últimos seis meses debido a la IA generativa, y ahora están centrados en optimizar su infraestructura para escalarla.

Mientras tanto, la industria de los centros de datos ha crecido para adaptarse a la demanda. La infraestructura de los centros de datos de todo el mundo está cada vez más preparada para la IA y es capaz de procesar grandes volúmenes de cálculos y solicitudes complicados. Actualmente, las regiones de Asia Pacífico y América del Norte tienen la mayor proliferación de centros de datos, particularmente en áreas como Beijing, Shanghai, el norte de Virginia y el área de la Bahía de San Francisco.1

Las inversiones sustanciales de las grandes tecnologías también han señalado un crecimiento para el sector de centros de datos de IA. En 2025, Microsoft planea invertir aproximadamente 80 mil millones de dólares en la construcción de centros de datos y Meta está invirtiendo USD 10 mil millones en un nuevo desarrollo de centro de datos a hiperescala de cuatro millones de pies cuadrados en el estado estadounidense de Louisiana.

Características clave de un centro de datos preparado para IA

Hay varias de las características y funciones únicas clave para los centros de datos preparados para IA:

  • Computación de alto rendimiento
  • Arquitectura de almacenamiento avanzada
  • Redes resilientes y seguras
  • Soluciones adecuadas de energía y refrigeración

Computación de alto rendimiento

Un centro de datos preparado para IA necesita capacidades de computación de alto rendimiento (HPC) como las que se encuentran dentro de los aceleradores de IA. Los aceleradores de IA son chips de IA que se emplean para acelerar los modelos de aprendizaje automático (ML) y aprendizaje profundo (DL), el procesamiento de lenguaje natural y otras operaciones de inteligencia artificial . Son ampliamente considerados como el hardware que hace posible la IA y sus muchas aplicaciones.

Las GPU, por ejemplo, son un tipo de acelerador de IA. Popularizadas por Nvidia, las GPU son circuitos electrónicos que dividen problemas complicados en partes más pequeñas que pueden resolver simultáneamente, una metodología conocida como procesamiento paralelo. HPC emplea un tipo de procesamiento paralelo conocido como procesamiento paralelo masivo, que emplea de decenas de miles a millones de procesadores o núcleos de procesador. Esta capacidad hace que las GPU sean increíblemente rápidas y eficientes. Los modelos de IA entrenan y se ejecutan en GPU de centros de datos, lo que potencia muchas aplicaciones líderes de IA.

Cada vez más, los centros de datos preparados para IA también incluyen aceleradores de IA más especializados, como una unidad de procesamiento neuronal (NPU) y unidades de procesamiento tensorial (TPU). Las NPU imitan las vías neuronales del cerebro humano para un mejor procesamiento de las cargas de trabajo de IA en tiempo real. Las TPU son aceleradores que se han creado a medida para acelerar los cálculos de tensores en las cargas de trabajo de IA. Su alto rendimiento y baja latencia los hacen ideales para muchas aplicaciones de IA y aprendizaje profundo .

Arquitectura de almacenamiento avanzada

La velocidad y las altas necesidades computacionales de las cargas de trabajo de IA requieren un gran almacenamiento de datos con memoria de alta velocidad. Las unidades de estado sólido (SSD), los dispositivos de almacenamiento basados en semiconductores, que suelen utilizar memoria flash NAND, se consideran dispositivos de almacenamiento críticos para los centros de datos de IA. Específicamente, los SSD NVMe, que tienen la velocidad, la programabilidad y la capacidad para manejar el procesamiento paralelo.

Las GPU de los centros de datos, los aceleradores y algunas SSD también utilizan memoria de alto ancho de banda (HBM). Este tipo de arquitectura de memoria permite una transferencia de datos de alto rendimiento con un menor consumo de energía que la memoria dinámica de acceso aleatorio (DRAM), una arquitectura de memoria más tradicional.

Otra faceta típica del diseño de centros de datos de IA es una arquitectura de almacenamiento de datos que pueda adaptar a las fluctuaciones de la demanda de datos, como los picos inesperados. En lugar de ejecutar las cargas de trabajo en hardware dedicado, muchos centros de datos (tanto de IA como convencionales) emplean una arquitectura de nube en la que se virtualiza el almacenamiento físico.

La virtualización es la división de los componentes de hardware de un solo ordenador (como la memoria y el almacenamiento) en varias máquinas virtuales. Permite un mejor uso de los recursos y una mayor flexibilidad al permitir a los usuarios ejecutar varias aplicaciones y sistemas operativos en el mismo hardware físico.

La virtualización también es la tecnología que impulsa las capacidades de la nube híbrida. La nube híbrida ofrece a las organizaciones una mayor agilidad y flexibilidad para conectar entornos en la nube y on-premises, lo cual es crítico para adoptar la IA generativa con uso intensivo de datos.

Redes resilientes y seguras

La IA debe ser rápida. Los usuarios esperan respuestas instantáneas de las aplicaciones de IA en línea y los vehículos autónomos deben tomar decisiones en la carretera en fracciones de segundo. Por lo tanto, las redes de centros de datos de IA deben ser capaces de admitir los requisitos de gran ancho de banda de las cargas de trabajo de IA con baja latencia. En los centros de datos a hiperescala, los requisitos de ancho de banda pueden oscilar entre varios gigabits por segundo (Gbps) y terabits por segundo (Tbps).

Los centros de datos tradicionales utilizan fibra óptica para sus redes de comunicaciones externas, pero los racks de los centros de datos siguen ejecutando predominantemente las comunicaciones a través de cables eléctricos de cobre. La óptica en coempaquetado, un nuevo proceso de IBM Research, promete mejorar la eficiencia energética y aumentar el ancho de banda al llevar conexiones de enlace óptico dentro de los dispositivos y dentro de las paredes de los centros de datos utilizados para entrenar y desplegar modelos de lenguaje de gran tamaño (LLM). Esta innovación podría aumentar significativamente el ancho de banda de las comunicaciones del centro de datos, acelerando el procesamiento de IA.

Casi todos los centros de datos modernos utilizan servicios de red virtualizados. Esta capacidad permite la creación de redes superpuestas definidas por software, construidas sobre la infraestructura física de la red. Permite la optimización de la computación, el almacenamiento y las redes para cada aplicación y carga de trabajo sin tener que realizar cambios físicos en la infraestructura.

Los centros de datos de IA requieren tecnología de virtualización de red de vanguardia con mejor interconexión, escalabilidad y rendimiento. También debe ser capaz de abordar las preocupaciones de privacidad de datos relacionadas con el gran volumen de datos utilizados para entrenar modelos de IA generativa.  En una encuesta de IBM , el 57 % de los directores ejecutivos (CEO) dicen que las preocupaciones sobre la seguridad de los datos serán una barrera para adoptar la IA generativa.

Soluciones adecuadas de energía y refrigeración

El alta potencia computacional, las redes avanzadas y los vastos sistemas de almacenamiento en los centros de datos de IA requieren enormes cantidades de energía eléctrica y sistemas de refrigeración avanzados para evitar cortes, tiempos de inactividad y sobrecargas. Goldman Sachs anticipa que la IA impulsará un aumento del 165 % en la demanda de electricidad de los centros de datos para 2030. Y el análisis de McKinsey sugiere que la demanda mundial anual de capacidad de centros de datos podría alcanzar entre 171 y 219 gigavatios (GW). La demanda actual es de 60 GW.

Para satisfacer estos intensos requisitos de consumo de energía y refrigeración, algunos centros de datos de IA emplean una configuración de alta densidad. Esta estrategia maximiza los metros cuadrados del centro de datos con configuraciones compactas de servidores que funcionan mejor, son más eficientes energéticamente y contienen sistemas de enfriamiento avanzados.

Por ejemplo, la refrigeración líquida suele utilizar agua en lugar de refrigeración por aire para transferir y disipar el calor. Ofrece una mayor eficiencia en el manejo del calor de alta densidad y una mejor eficacia del uso de energía (PuE), una métrica utilizada para medir la eficiencia energética del centro de datos. Otro método de refrigeración, la contención de pasillos calientes y/o fríos, organiza los racks de servidores para optimizar el flujo de aire y minimizar la mezcla de aire caliente y frío.

Dados estos importantes requisitos de energía, las organizaciones actuales a menudo buscan un equilibrio entre sus ambiciones de IA y sus objetivos de sustentabilidad. Un ejemplo impresionante proviene de Apple, uno de los mayores propietarios de centros de datos de hiperescala del mundo. Desde 2014, todos los centros de datos de Apple funcionan completamente con energía renovable a través de diversas combinaciones de pilas de combustible de biogás, energía hidroeléctrica, energía solar y energía eólica.

Otros están mirando hacia fuentes de energía extraterrestres, con la esperanza de usar la energía solar de alta intensidad en el espacio para construir nuevos centros de datos. Los avances en los centros de datos orbitales podrían reducir considerablemente los costos de energía para entrenar modelos de IA, lo que podría reducir los gastos de energía hasta en un 95 %.

Soluciones relacionadas
Software y soluciones de gestión de datos

Diseñe una estrategia de datos que elimine los silos de datos, reduzca la complejidad y mejore la calidad de los datos para ofrecer experiencias excepcionales a clientes y empleados.

Explore las soluciones de gestión de datos
IBM watsonx.data™

watsonx.data le permite escalar los analytics y la IA con todos sus datos, sin importar donde residan, a través de un almacén de datos abierto, híbrido y gobernado.

Descubra watsonx.data
Servicios de consultoría en datos y analytics

Desbloquee el valor de los datos empresariales con IBM Consulting, y construya una organización impulsada por insights que ofrezca ventajas empresariales.

Descubra los servicios de analytics
Dé el siguiente paso

Diseñe una estrategia de datos que elimine los silos de datos, reduzca la complejidad y mejore la calidad de los datos para ofrecer experiencias excepcionales a clientes y empleados.

Explore las soluciones de gestión de datos Descubra watsonx.data
Notas de pie de página

1AI to drive 165% increase in data center power demand by 2030,” Goldman Sachs, 4 de febrero de 2025.