Che cos'è un'unità di elaborazione grafica (GPU)?

Eseguendo rapidamente calcoli matematici, una GPU riduce il tempo necessario affinché un computer esegua più programmi e questo lo rende un fattore di abilitazione essenziale delle tecnologie emergenti e future come machine learning (ML), intelligenza artificiale (AI) e Blockchain.

Prima dell'invenzione delle GPU negli anni '90, i controller grafici nei PC e nei controller per videogiochi si basavano sull'unità di elaborazione centrale (CPU) di un computer per eseguire le attività. Fin dai primi anni '50, le CPU sono stati i processori più importanti in un computer, gestendo tutte le istruzioni necessarie per eseguire i programmi, come la logica, il controllo e l'input/output (I/O).

Tuttavia, con l'avvento dei giochi personali e della progettazione assistita da computer (CAD) negli anni '90, l'industria aveva bisogno di un modo più veloce ed efficiente per combinare rapidamente i pixel.

Nel 2007, Nvidia ha creato CUDA™ (Compute Unified Device Architecture), una piattaforma software e un'interfaccia di programmazione di applicazioni (API) che ha fornito agli sviluppatori l'accesso diretto alle capacità di calcolo parallelo delle GPU, consentendo loro di utilizzare la tecnologia GPU per una gamma più ampia di funzioni rispetto al passato.

Negli anni 2010, la tecnologia GPU ha acquisito ancora più funzionalità, forse in modo più significativo il ray-tracing (la generazione di immagini al computer tracciando la direzione della luce da una telecamera) e i tensor core (progettati per consentire il deep learning).

Grazie a questi progressi, le GPU hanno svolto un ruolo importante nell'accelerazione dell'AI e nei processori di deep learning, contribuendo ad accelerare lo sviluppo di applicazioni AI e di machine learning (ML). Oggi, oltre ad alimentare le console di gioco e i software di editing, le GPU alimentano funzioni di elaborazione all'avanguardia fondamentali per molte aziende.

Una GPU dispone di una propria memoria ad accesso rapido (RAM), una memoria elettronica utilizzata per memorizzare codice e dati a cui il chip può accedere e modificare in base alle esigenze. Le GPU avanzate solitamente dispongono di RAM progettata per contenere i grandi volumi di dati necessari per attività ad alta intensità di calcolo, come l'editing grafico, i giochi o i casi d'uso AI/ML.

Esistono due tipi popolari di memoria per la GPU: la Graphics Double Data Rate 6 Synchronous Dynamic Random-Access Memory (GDDR6) e la GDDR6X, una generazione successiva. La GDDR6X utilizza il 15% in meno di energia per bit trasferito rispetto alla GDDR6, ma il suo consumo energetico complessivo è maggiore in quanto è più veloce. Le iGPU possono essere integrate nella CPU di un computer o inserite in uno slot accanto ad essa e collegate tramite una porta PCI express.

Le CPU e le GPU condividono un design simile, incluso un numero simile di core e transistor per le attività di elaborazione, ma le CPU sono più generiche nelle loro funzioni rispetto alle GPU. Le GPU tendono a concentrarsi su un'attività di calcolo singola e specifica, come l'elaborazione grafica o il machine learning.

Le CPU sono il cuore e il cervello di un sistema informatico o di un dispositivo. Ricevono istruzioni o richieste generali relative a un'attività da un programma o da un'applicazione software. Una GPU, d'altra parte, ha un compito più specifico, normalmente l'elaborazione rapida di immagini e video ad alta risoluzione. Le GPU eseguono costantemente calcoli matematici complessi necessari per il rendering della grafica o altre funzioni ad alta intensità di calcolo per portare a termine il loro compito.

Una delle maggiori differenze è che le CPU tendono a utilizzare meno core e a svolgere i loro compiti in ordine lineare. Le GPU, tuttavia, hanno centinaia, persino migliaia, di core, consentendo l'elaborazione parallela alla base delle loro funzionalità di elaborazione fulminee.

Le prime GPU sono state progettate per accelerare il rendering della grafica 3D, rendendo le scene dei film e dei videogiochi più realistiche e avvincenti. Il primo chip GPU, il GeForce di Nvidia, è stato rilasciato nel 1999 ed è stato subito seguito da un rapido periodo di crescita che ha visto le funzionalità della GPU espandersi in altre aree grazie alle loro funzionalità di elaborazione parallela ad alta velocità.

L'elaborazione parallela, o calcolo parallelo, è un tipo di calcolo che si affida a due o più processori per realizzare sottoinsiemi diversi di un compito di calcolo complessivo.

Prima delle GPU, i computer di vecchia generazione potevano eseguire solo un programma alla volta, spesso impiegando ore per completare un’attività. La funzione di elaborazione parallela delle GPU esegue molti calcoli o attività simultaneamente, rendendole più veloci ed efficienti delle CPU nei computer più vecchi

Esistono tre tipi di GPU:

• GPU dedicate

• GPU integrate

• GPU virtuali

Le GPU dedicate, o dGPU, sono processori grafici separati dalla CPU di un dispositivo, in cui le informazioni vengono acquisite ed elaborate, consentendo al computer di funzionare. Le GPU dedicate sono solitamente utilizzate in applicazioni avanzate con requisiti speciali, come l'editing, la creazione di contenuti o i giochi ad alte prestazioni. Si tratta di chip distinti con connettori alle schede di circuiti separate e collegati alla CPU utilizzando uno slot express.

Una delle GPU dedicate più utilizzate è il marchio Intel Arc, progettato per l'industria dei giochi per PC.

Una GPU integrata, o iGPU, è integrata nell'infrastruttura di un computer o di un dispositivo e in genere è inserita accanto alla CPU. Progettate negli anni 2010 da Intel, le GPU integrate hanno guadagnato popolarità quando produttori come MSI, ASUS e Nvidia hanno notato la potenza della combinazione di GPU e CPU, piuttosto che richiedere agli utenti di aggiungere GPU attraverso uno slot PCI express. Rimangono una scelta popolare per gli utenti di laptop, i gamer e altri che eseguono programmi ad alta intensità di calcolo sui propri PC.

Le GPU virtuali, o vGPU, hanno le stesse funzionalità delle GPU dedicate o integrate, ma senza l'hardware. Sono versioni basate su software di GPU create per istanze cloud e possono essere utilizzate per eseguire gli stessi workload. Inoltre, poiché non dispongono di hardware, sono più semplici ed economiche da mantenere rispetto alle loro controparti fisiche.

Per GPU cloud si intende l'accesso a una GPU virtuale da parte di un provider di cloud service (CSP). Negli ultimi anni, il mercato dei servizi GPU basati su cloud è cresciuto, spinto dall'accelerazione del cloud computing e dalla maggiore adozione di applicazioni basate su AI/ML. In un rapporto di Fortune Business Insights, il mercato delle GPU as a service (GPUaaS), valutato 3,23 miliardi di dollari nel 2023, dovrebbe crescere da 4,31 miliardi di dollari nel 2024 a 49,84 miliardi di dollari entro il 2032. ¹

Molti CSP, tra cui Google Cloud Platform, Amazon Web Services (AWS), Microsoft e IBM Cloud, offrono accesso su richiesta a servizi GPU scalabili per prestazioni ottimizzate dei workload. I CSP forniscono risorse GPU virtualizzate con pagamento a consumo nei loro data center. Spesso utilizzano hardware GPU dei principali produttori di GPU come Nvidia, AMD e Intel per alimentare la loro infrastruttura basata su cloud.

Le offerte di GPU basate su cloud di solito sono dotate di preconfigurazioni e possono essere distribuite facilmente. Queste funzionalità aiutano le organizzazioni a evitare i costi iniziali e la manutenzione associati alle GPU fisiche. Inoltre, poiché le aziende cercano di integrare workload di AI generativa per eseguire attività computazionali avanzate (ad esempio, creazione di contenuti, generazione di immagini), la scalabilità e l'economicità fornite dalle GPU cloud sono diventate cruciali per il business aziendale.

I benchmark delle GPU forniscono un processo per valutare le prestazioni della GPU in varie condizioni. Questi strumenti software specializzati consentono agli utenti (ad esempio, gamer, artisti 3D, sviluppatori di sistemi) di ottenere insight sulle proprie GPU e risolvere problemi di prestazioni come colli di bottiglia, latenza e compatibilità con altri software e hardware.

Esistono due tipi principali di benchmark delle GPU: benchmark sintetici e reali. I benchmark sintetici testano le prestazioni non elaborate di una GPU in un ambiente standardizzato. I benchmark reali testano le prestazioni di una GPU in applicazioni specifiche.

Gli strumenti di benchmarking della GPU esaminano metriche delle prestazioni come velocità, frame rate e larghezza di banda di memoria. Esaminano anche l'efficienza termica e il consumo di energia per aiutare gli utenti a ottenere prestazioni ottimali in base a esigenze specifiche. Alcune piattaforme di benchmark incorporano anche test che misurano l'efficacia dell'interazione di un solid-state drive (SSD) con una GPU.

Nel tempo, le GPU si sono sviluppate, i miglioramenti tecnici le hanno rese più programmabili e sono state scoperte altre funzionalità. In particolare, la loro capacità di dividere le attività in più di un processore, noto come elaborazione parallela, li ha resi indispensabili per un'ampia gamma di applicazioni, come il gioco per PC, l'high performance computing (HPC), le workstation di rendering 3D, il data center computing e molti altri.

Vediamo nel dettaglio alcune delle più importanti e moderne applicazioni della tecnologia GPU, tra cui:

• Intelligenza artificiale

• Machine learning (ML) e deep learning (DL)

• Blockchain

• Gaming

• Video editing

• Creazione di contenuto

• Calcolo ad alte prestazioni (HPC)

• Visualizzazione e simulazione

Con la proliferazione di applicazioni AI e di gen AI, vale la pena esaminare altri due dispositivi di elaborazione specializzati e confrontarli con le GPU. Le aziende odierne utilizzano tutti e tre i tipi di processori (CPU, GPU e FPGA) a seconda delle loro esigenze specifiche.

Un'unità di elaborazione neurale (NPU) è un microprocessore informatico specializzato progettato per imitare la funzione di elaborazione del cervello umano. Conosciuto anche come acceleratore AI,  chip AI o processore di deep learning, un NPU è un acceleratore hardware creato per velocizzare le reti neurali AI, il deep learning e il machine learning.  

Le NPU e le GPU migliorano entrambe la CPU di sistema, ma presentano notevoli differenze. Le GPU contengono migliaia di core per ottenere le attività di calcolo rapide e precise necessarie per il rendering grafico e i giochi. Le NPU sono progettate per accelerare i workload di AI e di gen AI, dando priorità al flusso di dati e alla gerarchia della memoria in tempo reale, con bassi consumi e latenza.

GPU ad alte prestazioni sono adatte per applicazioni di deep learning o AI perché possono gestire un grande volume di calcoli in più core con grandi quantità di memoria disponibile. I Field Programmable Gate Array (FPGA) sono tipi versatili di circuiti integrati che possono essere riprogrammati per diverse funzioni. Rispetto alle GPU, gli FPGA possono fornire flessibilità ed efficienza in termini di costi per offrire prestazioni migliori nelle applicazioni di deep learning che richiedono una bassa latenza, come l'imaging medico e l'edge computing.