Che cos'è l'inferenza AI?

L'inferenza AI è fondamentale per il progresso delle tecnologie dell'AI ed è alla base delle sue applicazioni più interessanti, come l'AI generativa, la funzionalità alla base della popolare applicazione ChatGPT. I modelli AI si basano sull'inferenza AI per imitare il modo in cui le persone pensano, ragionano e rispondono ai suggerimenti.

L'inferenza AI inizia addestrando un modello AI su un ampio set di dati con algoritmi decisionali. I modelli AI sono costituiti da algoritmi decisionali addestrati su reti neurali, ovvero modelli linguistici di grandi dimensioni (LLM), costruiti come il cervello umano. Ad esempio, un modello AI progettato per il riconoscimento facciale potrebbe essere addestrato su milioni di immagini del volto umano. Alla fine, impara a identificare con precisione caratteristiche come il colore degli occhi, la forma del naso e il colore dei capelli, e può quindi utilizzarle per riconoscere un individuo in un'immagine.

Sebbene strettamente correlati, l'inferenza AI e il machine learning (ML) sono due fasi diverse del ciclo di vita dei modelli AI.

• Il machine learning è il processo che consiste nell'utilizzare algoritmi e dati di addestramento, attraverso il processo di apprendimento supervisionato, per consentire all'AI di imitare il modo in cui gli esseri umani apprendono, migliorandone gradualmente la precisione.
  
  
• L'inferenza AI è invece il processo di applicazione di quello che il modello AI ha appreso attraverso l'apprendimento automatico (ML) per decidere, prevedere o concludere dai dati.

Se i modelli AI non sono addestrati su un set di dati solido e appropriato per la loro applicazione, semplicemente non risultano efficaci. Data la natura sensibile della tecnologia e l'attenzione con cui viene esaminata dalla stampa¹, le aziende devono essere caute. Ma con applicazioni che abbracciano diversi settori e offrono il potenziale della trasformazione digitale e dell'innovazione scalabile, i suoi vantaggi sono numerosi:

• Risultati precisi e accurati: i modelli AI diventano sempre più precisi e accurati con il progredire della tecnologia. Ad esempio, i nuovi LLM possono scegliere parole, frasi e la grammatica in modo da imitare il tono di un particolare autore. Nell'arte e nei video, possono fare lo stesso, selezionando colori e stili per trasmettere un'atmosfera, un tono o uno stile artistico precisi.

• Migliore controllo della qualità: una delle conquiste più recenti e potenzialmente più entusiasmanti dell'AI riguarda il monitoraggio e le ispezioni dei sistemi. I modelli AI addestrati su set di dati che vanno dalla qualità dell'acqua ai modelli meteorologici vengono utilizzati per monitorare lo stato di salute dell'attrezzatura industriale utilizzata.

• Apprendimento robotico: robot e robotica con funzionalità di inferenza AI vengono utilizzati per varie attività per aggiungere valore aziendale. Forse l'applicazione più popolare dell'apprendimento robotico sono le auto con guida autonoma. L'inferenza AI è ampiamente utilizzata dalle case automobilistiche che producono auto a guida autonoma come Tesla, Waymo e Cruz per insegnare alle reti neurali a riconoscere e rispettare le regole del traffico.

• Apprendimento senza direzione: l'inferenza AI si allena sui dati senza essere programmata, riducendo l'input dell'uomo e le risorse necessarie per funzionare in modo efficace. Ad esempio, un modello AI addestrato sulle immagini di ambienti agricoli può essere utilizzato per aiutare gli agricoltori a individuare e mitigare le erbacce e le colture malsane.

• Guida e processo decisionale informati: una delle applicazioni più entusiasmanti dell'inferenza AI è la capacità dell'AI di comprendere sfumature e complessità e offrire consigli basati sui set di dati su cui è stata appresa. Ad esempio, i modelli AI addestrati sui principi finanziari possono offrire una solida consulenza in materia di investimenti e individuare attività potenzialmente fraudolente. Allo stesso modo, l'AI può eliminare il potenziale di errore umano da procedure rischiose come effettuare la diagnosi di una malattia o pilotare un aereo.

• Funzionalità di edge computing: l'inferenza e l'edge computing nell'AI offrono tutti i vantaggi dell'AI in tempo reale, senza la necessità di spostare i dati in un data center per elaborarli. Il potenziale dell'inferenza AI sull'edge ha ripercussioni ad ampio raggio, dalla gestione e monitoraggio dei livelli delle scorte in un magazzino alle reazioni in millisecondi necessarie per il funzionamento in condizioni di sicurezza di un veicolo autonomo.

Sebbene i vantaggi dell'inferenza AI siano numerosi, essendo una tecnologia giovane e in rapida crescita, non è priva di difficoltà. Ecco alcuni dei problemi del settore che le aziende che intendono investire AI devono considerare:

• Conformità: il compito di regolamentare le applicazioni e l'inferenza AI è complesso e in continua evoluzione. Un esempio di questo è l'area della sovranità dei dati, il concetto secondo cui i dati sono soggetti alle leggi del Paese o della regione in cui sono stati generati. Le aziende globali che raccolgono, memorizzano ed elaborano dati per scopi di AI in più di un territorio hanno difficoltà a rimanere conformi alle leggi in più territori, pur continuando a innovare in modi che andranno a vantaggio del loro business.

• Qualità: nell'addestramento dei modelli AI, la qualità dei dati su cui i modelli vengono addestrati è fondamentale per il loro successo. Proprio come gli umani che imparano da un insegnante non preparato, un modello AI addestrato su un set di dati scadente non funzionerà bene. I set di dati devono essere etichettati in modo chiaro ed essere iperpertinenti alle competenze che il modello AI sta tentando di apprendere. Una sfida chiave dell'AI (e in particolare dell'accuratezza dell'inferenza AI) è la selezione del modello giusto su cui addestrarsi.

• Complessità: proprio come per la qualità dei dati, la complessità dei dati può causare problemi anche con i modelli AI. Utilizzando nuovamente l'analogia di uno studente, più semplice è la cosa per cui l'AI viene addestrata, più è facile imparare. I modelli AI che affrontano problemi semplici, come un customer service chatbot o un agente di viaggio virtuale, sono relativamente facili da addestrare rispetto ai modelli progettati per problemi più complessi, come l'imaging medico o la consulenza finanziaria.

• Miglioramento delle competenze: per quanto possa essere emozionante immaginare le possibilità di un campo nuovo e in rapida crescita come l'AI, l'esperienza richiesta per creare applicazioni di AI funzionanti e un'inferenza AI accurata richiede tempo e risorse. Fino a quando la pipeline di talenti non raggiungerà il ritmo dell'innovazione, gli esperti in questo campo rimarranno particolarmente richiesti e costosi da assumere.

• Dipendenza da Taiwan: ben il 60% dei semiconduttori mondiali e il 90% dei chip avanzati (inclusi gli acceleratori di AI necessari per l'inferenza AI) vengono prodotti sull'isola di Taiwan.² Inoltre, Nvidia, la più grande azienda di hardware e software per l'AI al mondo, per i suoi acceleratori di AI si affida quasi esclusivamente a un'unica azienda, la Taiwan Semiconductor Manufacturing Corporation (TSMC). Calamità naturali o altri incidenti imprevisti potrebbero mettere a repentaglio la produzione e la distribuzione dei chip necessari per alimentare l'inferenza AI e le sue numerose applicazioni.

L'inferenza AI è un processo complesso che prevede l'addestramento di un modello AI su set di dati appropriati fino a quando non è in grado di dedurre risposte accurate.

Si tratta di un processo ad alta intensità di calcolo, che richiede hardware e software specializzati. Prima di esaminare il processo di addestramento dei modelli AI per l'inferenza AI, esploriamo alcuni degli hardware specializzati che lo consentono:

L'unità di elaborazione centrale (CPU) è il componente funzionale principale di un computer. Nell'addestramento e nell'inferenza AI, la CPU esegue il sistema operativo e aiuta a gestire le risorse di calcolo necessarie per scopi di formazione.

Le unità di elaborazione grafica (GPU), o circuiti elettronici costruiti per la computer grafica e l'elaborazione delle immagini ad alte prestazioni, sono utilizzate in vari dispositivi, tra cui schede video, schede madri e telefoni cellulari. Tuttavia, grazie alle loro capacità di elaborazione parallela, vengono sempre più utilizzati anche nell'addestramento dei modelli AI. Un metodo consiste nel collegare più GPU a un singolo sistema di AI per aumentarne la potenza di elaborazione.

Gli FPGA (Field-Programmable Gate Array) sono acceleratori di AI altamente personalizzabili che dipendono da conoscenze specialistiche per essere riprogrammati per uno scopo specifico. A differenza di altri acceleratori di AI, le FPGA hanno un design unico che si adatta a una funzione specifica, che spesso ha a che fare con l'elaborazione dei dati in tempo reale, che è fondamentale per l'inferenza AI. Gli FPGA sono riprogrammabili a livello hardware, consentendo un livello di personalizzazione più elevato.

Gli ASIC sono acceleratori di AI progettati pensando a uno scopo o a un workload specifico, come il deep learning nel caso dell'acceleratore ASIC WSE-3 prodotto da Cerebras. Gli ASIC aiutano i data scientist a velocizzare le capacità di inferenza AI e a ridurre i costi. A differenza degli FPGA, gli ASIC non possono essere riprogrammati, ma poiché sono costruiti con uno scopo unico, in genere superano gli altri acceleratori più generici. Un esempio di questi è la Tensor Processing Unit (TPU) di Google, sviluppata per l'apprendimento automatico delle reti neurali utilizzando il software TensorFlow di Google.

Le aziende interessate a investire in applicazioni di AI come parte del loro percorso di trasformazione digitale dovrebbero informarsi sui vantaggi e le sfide dell'inferenza AI. Per coloro che hanno studiato a fondo le varie applicazioni e sono pronti a utilizzarle, ecco cinque passaggi per stabilire un'inferenza efficace nell'AI:

A seconda del tipo di applicazione di AI di cui le aziende hanno bisogno, esistono diversi tipi di inferenza AI tra cui scegliere. Se un'azienda sta cercando di creare un modello AI da utilizzare con un'applicazione Internet of Things (IoT), l'inferenza in streaming (con le sue capacità di misurazione) è probabilmente la scelta più appropriata. Tuttavia, se un modello AI è progettato per interagire con gli esseri umani, l'inferenza online (con le sue capacità LLM) sarebbe più adatta. Ecco i tre tipi di inferenza AI e le caratteristiche che li contraddistinguono.

L'inferenza dinamica, nota anche come inferenza online, è il tipo più veloce di inferenza AI e viene utilizzata nelle applicazioni LLM AI più diffuse, come ChatGPT di OpenAI. L'inferenza dinamica produce output e previsioni nell'istante in cui viene richiesto e, successivamente, richiede una bassa latenza e un accesso rapido ai dati per funzionare. Un'altra caratteristica dell'inferenza dinamica è che i risultati possono arrivare così rapidamente che non c'è tempo per esaminarli prima che raggiungano l'utente finale. Questo fa sì che alcune aziende aggiungano un livello di monitoraggio tra il risultato e l'utente finale per garantire il controllo della qualità.

L'inferenza batch genera previsioni di AI offline utilizzando grandi quantità di dati. Con un approccio di inferenza batch, i dati raccolti in precedenza vengono quindi applicati agli algoritmi di ML. Sebbene non sia l'ideale per le situazioni in cui sono richiesti risultati in pochi secondi o meno, l'inferenza batch è adatta per le previsioni di AI che vengono aggiornate regolarmente durante il giorno o nel corso di una settimana, come dashboard di vendita o marketing o valutazioni del rischio.

L'inferenza nello streaming utilizza una pipeline di dati, solitamente forniti attraverso misurazioni regolari dai sensori, e li inserisce in un algoritmo che utilizza i dati per effettuare costantemente calcoli e previsioni. Le applicazioni IoT, come l'AI utilizzata per monitorare una centrale elettrica o il traffico in una città attraverso sensori connessi a Internet, si basano sull'inferenza nello streaming per prendere le proprie decisioni.