NPU vs. GPU: ¿cuál es la diferencia?

Las GPU contienen miles de núcleos para realizar las tareas computacionales rápidas y precisas necesarias para la renderización de gráficos. Las NPU priorizan el flujo de datos y la jerarquía de memoria para procesar mejor las cargas de trabajo de IA en tiempo real.

Ambos tipos de microprocesadores destacan en los tipos de procesamiento paralelo utilizados en la IA, pero las NPU están diseñadas específicamente para tareas machine learning (ML) e inteligencia artificial. 

Las unidades de procesamiento neuronal (NPU) están viviendo su momento, pero ¿por qué esta tecnología de casi una década de antigüedad está acaparando de repente la atención? La respuesta tiene que ver con los recientes avances en IA (inteligencia artificial) generativa que reavivan el interés público por las aplicaciones de IA y, por extensión, por los chips aceleradores de IA como las NPU y las GPU. 

La arquitectura de la NPU difiere significativamente de la de la CPU o la GPU. Diseñadas para ejecutar instrucciones de manera secuencial, las CPU cuentan con una característica de menos núcleos de procesamiento que las GPU, que cuentan con muchos más núcleos y están diseñadas para operaciones exigentes que requieren altos niveles de procesamiento paralelo. 

Mientras que las CPU luchan con las tareas de procesamiento paralelo y las GPU sobresalen a costa de un alto consumo de energía, la arquitectura NPU prospera imitando la forma en que el cerebro humano procesa los datos. Más que simplemente agregar núcleos adicionales, las NPU logran un alto paralelismo con menos consumo de energía a través de una serie de características y técnicas únicas:

• Unidades de computación especializadas: las NPU integran hardware dedicado para operaciones de multiplicación y acumulación, esenciales para el entrenamiento y la inferencia de redes neuronales.

• Memoria en chip de alta velocidad: para minimizar los cuellos de botella relacionados con el acceso a la memoria, las NPU tienen la característica de memoria integrada de alta velocidad, lo que permite un acceso rápido a los datos y pesos del modelo.

• Arquitectura paralela: las NPU están diseñadas para realizar miles de operaciones paralelas, lo que las hace extremadamente eficientes en el procesamiento de lotes de datos.

Al comparar NPU y GPU, puede ser útil evaluar el rendimiento en las características clave.

• Las GPU están diseñadas para dividir las tareas exigentes de procesamiento de imágenes en operaciones más pequeñas que pueden procesarse en paralelo.   

• Las NPU están diseñadas para imitar el cerebro humano con módulos que aceleran la multiplicación y la suma al tiempo que mejoran la memoria en el chip.

• Las GPU ofrecen excelentes capacidades de computación paralela, pero a costa de un alto consumo de energía. 

• Las NPU ofrecen un paralelismo igual (o incluso mejor), especialmente cuando se trata de cálculos cortos y repetitivos. Diseñadas para manejar los tipos de algoritmos de IA utilizados en las redes neuronales, las NPU son especialmente adecuadas para procesar conjuntos de datos a gran escala que requieren multiplicaciones de matrices.

• Las GPU, aunque más especializadas que las CPU, son más adecuadas para la informática de uso general.

• Las NPU son procesadores especializados creados específicamente para tareas de IA y machine learning. Eliminan algunas de las características excesivas utilizadas por las GPU para optimizar la eficiencia energética.

• Las GPU, como predecesoras de las NPU, tienen un beneficio de un entorno más desarrollado y están ampliamente disponibles en el mercado de consumo. Disponible para profesionales y aficionados, el lenguaje CUDA de Nvidia permite programar GPU fácilmente con compilación de código abierto para varios sistemas operativos. 

• Las NPU son más nuevas que las GPU y, por lo general, son menos accesibles. Es posible que muchas NPU patentadas, como la unidad de procesamiento tensorial (TPU) de Google o Snapdragon de Qualcomm (utilizada por Apple), no estén disponibles para el mercado en general. Los chips NPU producidos por fabricantes como Intel o AMD tienen comparativamente menos recursos comunitarios.

• Las GPU se utilizan con frecuencia en juegos y animación por ordenador, donde las tarjetas gráficas son responsables de la optimización del procesamiento de imágenes. También son eficaces en otras aplicaciones que exigen altos niveles de paralelismo, como en centros de datos, criptominería o entrenamiento de modelos de IA.

• Las NPU se utilizan en un ámbito más centrado y ofrecen un paralelismo excepcional a la vez que requieren menos potencia. Normalmente combinadas con GPU, las NPU descargan las tareas de IA más exigentes y son más adecuadas para tareas de machine learning como el procesamiento de cargas de trabajo de IA en modelos de lenguaje de gran tamaño (LLM), deep learning, reconocimiento de imágenes o blockchain e IA. 

La incorporación de NPU en sistemas integrados ofrece una serie de ventajas destacadas sobre los procesadores tradicionales en términos de velocidad, eficiencia y comodidad. Entre los beneficios se incluyen los siguientes:

• Localización: el procesamiento de aplicaciones de IA requiere importantes recursos informáticos y, por este motivo, a menudo se relega a la nube. Sin embargo, depender de un servidor distante puede ralentizar las operaciones y dejar la información confidencial vulnerable a posibles fugas de datos. Las NPU permiten el procesamiento localizado y en tiempo real de las tareas de IA, lo que reduce la latencia para aplicaciones críticas como el reconocimiento de voz o facial, el diagnóstico médico y los sistemas de conducción automatizada. 

• Gestión de recursos: las NPU comúnmente integradas pueden ayudar a optimizar los recursos generales del sistema al asumir las tareas repetitivas necesarias para las aplicaciones de IA. La descarga de este tipo de tareas a una NPU libera recursos de GPU para procesar grandes volúmenes de datos para cálculos más generales.

• Eficiencia: si bien las GPU son capaces de manejar muchas tareas exigentes asociadas con la IA, las NPU están diseñadas específicamente para estas solicitudes y pueden cumplir con referencias de rendimiento similares o incluso mejores, a la vez que requieren exponencialmente menos energía, una característica particularmente valiosa para dispositivos alimentados por batería con capacidad finita. 

Como coprocesadores, las NPU se han utilizado durante varios años, normalmente integradas con GPU para proporcionar soporte para tareas repetitivas específicas. Las NPU siguen siendo valiosas en la tecnología de consumo (como la IA Copilot de Microsoft Windows) y en varios dispositivos del Internet de las cosas (IoT) (como los altavoces inteligentes que utilizan NPU para procesar el reconocimiento de voz). 

Sin embargo, los recientes desarrollos en la tecnología de IA han puesto de relieve este tipo de procesador, ya que los modelos de IA más avanzados han incorporado herramientas de IA de consumo a la conversación popular. Diseñado específicamente para tareas exigentes de IA, como el procesamiento del lenguaje natural, a medida que crece el interés por la IA de consumo, también lo ha hecho el interés por las NPU. 

Los principales casos de uso de las NPU incluyen los siguientes:

• Inteligencia artificial y modelos de lenguaje de gran tamaño: las NPU están diseñadas específicamente para mejorar el rendimiento de los sistemas de IA y ML, como los modelos de lenguaje de gran tamaño (LLM) que requieren un procesamiento adaptativo de baja latencia para interpretar señales multimedia, realizar reconocimiento de voz y generar respuestas naturales. Las NPU también son expertas en tareas de procesamiento de vídeo habilitadas para IA, como desenfocar el fondo en videollamadas o editar imágenes automáticamente.   

• Dispositivos de Internet de las cosas (IoT): de bajo perfil y energéticamente eficientes, las NPU son un potente coprocesador para pequeños dispositivos inteligentes, como smartphones, dispositivos móviles y wearables, en los que la energía de la batería es escasa y se prioriza la eficiencia.

• Centros de datos: conocidos por procesar cargas de trabajo exigentes, los centros de datos se benefician de la optimización eficiente de los recursos que ofrecen las NPU. 

• Vehículos autónomos y robótica: desde coches autodirigidos hasta vehículos aéreos autónomos (drones), las NPU añaden valor a los sistemas de conducción autónoma mediante el mejor paralelismo de su clase y velocidades de procesamiento de señales mejoradas. Las NPU de baja latencia son una excelente opción para aplicaciones que requieren visión artificial, y ayudan a los vehículos autónomos a responder en tiempo real al tráfico y a las condiciones ambientales repentinas. La robótica habilitada para IA, desde asistentes domésticos hasta herramientas quirúrgicas automatizadas, confía en las NPU para desarrollar la capacidad de detectar, aprender y reaccionar a sus entornos. 

• Edge computing e IA de edge: el edge computing y la IA de edge buscan acercar físicamente los datos y los recursos informáticos críticos a los usuarios. Esto reduce la latencia, mitiga el consumo de energía y refuerza la privacidad. Al requerir menos energía y ofrecer una huella física más pequeña, las NPU se están convirtiendo en un componente valioso en el edge computing y la IA en el dispositivo. 

Anteriores a las NPU, las GPU han sido durante mucho tiempo las preferidas para tareas informáticas que requieren un procesamiento paralelo de alto rendimiento. Diseñadas originalmente para gestionar gráficos complejos para videojuegos y software de imagen/vídeo, las GPU siguen utilizándose en juegos de PC y videoconsolas, así como en realidad virtual y realidad aumentada, computación de alto rendimiento (HPC), renderizado 3D, centros de datos y otras aplicaciones . 

He aquí un vistazo más de cerca a algunas de las aplicaciones más importantes y modernas de la tecnología GPU:

• Inteligencia artificial (IA), machine learning (ML) y deep learning (DL): aunque no están diseñadas específicamente para tareas de IA, ML o DL, las GPU impulsan muchas aplicaciones de IA líderes, como el superordenador de IA nativo de la nube Vela de IBM, que requieren un alto nivel de paralelismo para procesar grandes conjuntos de datos para el entrenamiento. Mediante el procesamiento paralelo, las GPU pueden simular el proceso de toma de decisiones del cerebro humano utilizado en ML y DL. 

• Cloud computing: en los últimos años, el cloud computing se ha convertido en una parte crucial de la infraestructura de TI en todos los principales sectores. La capacidad de descargar las principales tareas informáticas en servidores potentes almacenados fuera de las instalaciones requiere inmensas capacidades de proceso de datos. Las GPU habilitan la infraestructura de cloud computing acelerando el análisis de big data y las consultas a bases de datos a través de la computación paralela. 

• Visualización y simulación: diseñadas específicamente para procesar gráficos, las GPU agregan un enorme valor en todos los sectores para tareas que requieren visualizaciones o simulaciones complejas, incluidos tutoriales de productos, el dibujo CAD de ingeniería, la obtención de imágenes médicas y el modelado sísmico y geofísico. En otros lugares, los climatólogos utilizan simulaciones impulsadas por GPU para predecir las condiciones meteorológicas, mientras que los físicos teóricos las utilizan para modelar el comportamiento de las partículas a nivel cuántico.  

• Blockchain: las tecnologías blockchain dependen en gran medida de la tecnología GPU, especialmente cuando se trata de validar la “prueba de trabajo”. En muchas aplicaciones de blockchain ampliamente utilizadas, como la criptomoneda Bitcoin, se realizan cálculos de prueba de trabajo para confirmar que las actualizaciones realizadas en el libro mayor general son precisas. Este nivel de cálculo es muy exigente porque afecta a toda la blockchain y no sería posible sin las GPU modernas.

• Juegos y el metaverso: a medida que el sector de los juegos sigue disparándose, también lo hace la demanda de mejores gráficos, juegos en línea multijugador masivos (MMO) de mayor tamaño y renderizado de alta carga computacional como el que permite juegos de realidad virtual y realidad aumentada. Los desarrolladores de juegos y los fabricantes de sistemas informáticos confían en las GPU para potenciar funciones de juego de última generación, como las altas frecuencias de refresco de imagen y el trazado de rayos avanzado que se utiliza en el renderizado de entornos hiperrealistas. 

• Procesamiento de vídeo y creación de contenidos: desde su introducción, las GPU han reducido constantemente los frustrantes tiempos de renderizado de los productos de edición de vídeo más populares, como Final Cut Pro y Adobe Premiere. Hoy en día, las GPU equipadas con NPU integradas aceleran drásticamente las tareas de creación y edición de vídeo para todo, desde las suites de edición profesional utilizadas por los principales estudios de Hollywood hasta las aplicaciones para smartphones utilizadas por youtubers y tiktokers.

Las NPU se utilizan mejor dentro de sistemas integrados que optimizan las operaciones para asignar tipos específicos de recursos a tipos específicos de procesadores. Diseñadas para una computación lineal y precisa, las CPU se asignan mejor a procesos de uso general, como la gestión de sistemas y recursos, mientras que las GPU están especializadas para cargas de trabajo intensas que se benefician de la computación paralela.

A medida que se generalizan las aplicaciones de inteligencia artificial, es mejor utilizar NPU aún más especializadas como complemento de CPU y GPU para gestionar tareas específicas de IA y ML con un procesamiento paralelo de baja latencia y gran eficiencia energética.