Le CPU e le GPU condividono un design simile, incluso un numero simile di core e transistor per le attività di elaborazione, ma le CPU sono più generiche nelle loro funzioni rispetto alle GPU. Le GPU tendono a concentrarsi su un'attività di calcolo singola e specifica, come l'elaborazione grafica o il machine learning.
Le CPU sono il cuore e il cervello di un sistema informatico o di un dispositivo. Ricevono istruzioni o richieste generali relative a un'attività da un programma o da un'applicazione software. Una GPU, d'altra parte, ha un compito più specifico, normalmente l'elaborazione rapida di immagini e video ad alta risoluzione. Per svolgere il loro compito, le GPU eseguono costantemente complessi calcoli matematici necessari per il rendering della grafica o altre funzioni ad alta intensità di calcolo.
Una delle maggiori differenze tra le CPU e le GPU è che le CPU tendono a utilizzare un numero minore di core e a eseguire i loro compiti in ordine lineare, mentre le GPU hanno centinaia, o addirittura migliaia, di core, consentendo l'elaborazione parallela che guida le loro funzionalità di elaborazione fulminee.
Le prime GPU sono state costruite per accelerare il rendering della grafica 3D, facendo apparire le scene di film e videogiochi più realistiche e coinvolgenti. Il primo chip GPU, il GeForce di Nvidia, è stato rilasciato nel 1999 ed è stato subito seguito da un rapido periodo di crescita che ha visto le funzionalità della GPU espandersi in altre aree grazie alle loro funzionalità di elaborazione parallela ad alta velocità.
L'elaborazione parallela, o calcolo parallelo, è un tipo di calcolo che si affida a due o più processori per realizzare sottoinsiemi diversi di un compito di calcolo complessivo. Prima delle GPU, i computer di vecchia generazione potevano eseguire solo un programma alla volta, spesso impiegando ore per completare un’attività. La funzione di elaborazione parallela delle GPU esegue molti calcoli o attività contemporaneamente e questo le rende più veloci ed efficienti rispetto alle CPU dei computer di vecchia generazione.