Che cosa sono i workload AI?
I workload AI sono raccolte di singoli processi informatici, applicazioni e risorse di calcolo in tempo reale utilizzati per completare attività specifiche dell'intelligenza artificiale, dell'apprendimento automatico e dei sistemi di deep learning.
In particolare, il termine workload AI si riferisce ad attività ad alta intensità di risorse che richiedono grandi quantità di trattamento dei dati relative allo sviluppo, alla formazione e all'implementazione dei modelli di AI.
Dietro le quinte, i singoli workload AI consentono alle applicazioni AI di simulare caratteristiche simili a quelle umane, come comprensione, processo decisionale, risoluzione dei problemi, creatività e autonomia, associate ai modi in cui gli umani apprendono, pensano e traggono conclusioni.
La differenza tra workload AI e workload tradizionali
All'interno dell'IT, il termine workload si è evoluto, assumendo connotazioni diverse in contesti diversi. In genere, un workload si riferisce alla domanda totale di sistema, alla quantità di tempo e alle risorse necessari per ottenere uno specifico risultato desiderato. I workload possono variare da attività relativamente semplici come un singolo calcolo o un'applicazione a operazioni complesse, come l'elaborazione di analytics su larga scala, l'hybrid cloud o i servizi di cloud pubblico o l'esecuzione di una suite di app e workflow interconnessi.
Come sottoinsieme, i workload AI sono associati ad attività relative alle applicazioni di AI come l'AI generativa (gen AI), i modelli linguistici di grandi dimensioni (LLM) come ChatGPT, l'elaborazione del linguaggio naturale(NLP) e gli algoritmi AI in esecuzione. I workload AI si differenziano dalla maggior parte degli altri tipi di workload per gli elevati livelli di complessità e per i tipi di dati elaborati. Rispetto ad altre tipologie, i workload AI in genere elaborano dati non strutturati come immagini e testo.
Le ultime notizie e insight sull'AI
Scopri notizie e insight selezionati da esperti in materia di AI, cloud e molto altro nella newsletter settimanale Think.
In generale, i workload AI possono essere suddivisi in due categorie, con l'addestramento sui modelli e l'inferenza dei modelli che sono le due più complete:
I workload di addestramento dei modelli vengono utilizzati per insegnare ai framework di AI a identificare i modelli al fine di fare previsioni accurate.
I workload di inferenza dei modelli AI sono composti da attività (e dalla potenza di calcolo associata) necessarie ai modelli AI per interpretare e rispondere a nuovi dati e richieste.
Andando più nel dettaglio, alcuni tipi di workload AI aggiuntivi e più granulari includono quanto segue:
Questi tipi di workload comportano la preparazione dei dati per un'analisi più approfondita o per scopi di addestramento del modello. Come passaggio critico nell'addestramento dei modelli AI, l'elaborazione del workload garantisce che i dati dell'addestramento soddisfino standard di qualità e formattazione predefiniti. I workload di trattamento dei dati contengono attività come l'estrazione e la raccolta di dati da diverse fonti in un formato coerente e quindi il caricamento dei dati in un sistema di storage per un facile accesso al modello AI. Questi tipi di processi possono includere anche operazioni più avanzate come l'estrazione di caratteristiche, in cui punti dati o attributi specifici vengono identificati come input desiderati da un set di dati meno strutturato.
I workload di apprendimento automatico (ML) sono direttamente correlati allo sviluppo, alla formazione e alla distribuzione/implementazione di algoritmi di apprendimento automatico (ML) utilizzati per l'apprendimento e la formulazione di previsioni. I workload di apprendimento automatico (ML) elaborano grandi set di dati, regolando iterativamente i parametri del modello per una maggiore precisione. I modelli di apprendimento automatico (ML) sono utili per attività di inferenza, come la previsione di eventi futuri sulla base di modelli storici. Questi tipi di workload possono essere particolarmente dispendiosi in termini di risorse durante la fase di addestramento, richiedendo processori specializzati come GPU (unità di elaborazione grafica) e TPU (unità di elaborazione tensoriale) per accelerare le operazioni attraverso calcoli paralleli.
I workload di deep learning (DL) vengono utilizzati per la formazione e la distribuzione di reti neurali che imitano il modo in cui il cervello umano pensa, apprende e risolve i problemi. Come sottoinsieme dell'apprendimento automatico, i sistemi di deep learning sono definiti da una maggiore profondità, che coinvolge più livelli di neuroni artificiali, o nodi, che utilizzano gerarchie di dati sempre più complesse per creare connessioni e astrazioni. I modelli DL sono particolarmente utili per le attività di riconoscimento delle immagini e del riconoscimento vocale, ma questi tipi di workload possono essere ancora più impegnativi dei workload di apprendimento automatico (ML), dato che richiedono le tipologie di potenti acceleratori AI utilizzati nell'elaborazione ad alte prestazioni(HPC).
Le attività di elaborazione del linguaggio naturale (NLP) aiutano gli esseri umani a interagire con i sistemi AI tramite prompt conversazionali. Questi tipi di workload aiutano i modelli AI a comprendere e interpretare il linguaggio naturale e quindi a generare risposte facili da comprendere anche per gli umani. Le attività associate alla PNL includono l'analisi del sentimento, la traduzione linguistica e il riconoscimento vocale. I sistemi di NLP devono essere in grado di analizzare grandi volumi di dati testuali e audio per il contesto, la grammatica e la semantica. Le moderne CPU (unità di elaborazione centrale) sono in grado di eseguire sistemi di AI NLP, anche se i modelli linguistici più complicati possono mettere a dura prova i processori standard e richiedere livelli più elevati di risorse computazionali.
I sistemi di AI generativa vengono utilizzati per produrre nuovi contenuti (ad esempio testo, immagini, video) sulla base di vasti set di dati di formazione e prompt. I workload di gen AI interpretano i comandi degli utenti e traggono inferenze per creare output coerenti. I modelli linguistici di grandi dimensioni utilizzano i workload di gen AI per attività come la previsione della parola migliore da utilizzare in una frase. I modelli di diffusione, utilizzati per la generazione di immagini e video, utilizzano questi tipi di workload per rifinire in modo iterativo il rumore casuale in immagini coerenti e contestualmente pertinenti, quasi come uno scultore che scheggia un blocco di marmo.
I workload di computer vision consentono ai computer di utilizzare sensori come telecamere e LiDAR per interpretare i dati visivi, identificare oggetti e reagire in tempo reale. Questi tipi di attività sono critici per applicazioni come i veicoli a guida autonoma o la sorveglianza automatizzata. I workload di computer vision includono attività come la classificazione delle immagini, il rilevamento di oggetti e il riconoscimento facciale.
I workload AI sono utili per ogni tipo di applicazione di AI. Le recenti scoperte tecnologiche hanno portato l'AI in una nuova era di utility, con applicazioni che spaziano dai settori dall'automazione all'automotive, dalla sanità alla produzione pesante. Ogni giorno, vengono testate nuove applicazioni di AI e le applicazioni precedenti vengono perfezionate, con il potenziale per migliorare in modo significativo un'ampia gamma di servizi e operazioni.
Esperienza, assistenza e supporto del cliente
I chatbot e gli assistenti virtuali basati sull'AI vengono sempre più impiegati da aziende che cercano di gestire meglio le preoccupazioni dei clienti, i ticket di assistenza e persino le vendite. Strumenti come questi utilizzano l'elaborazione del linguaggio naturale e la gen AI per interpretare e rispondere alle domande dei clienti, fornire risposte rapide o rilanciando le richieste più impegnative agli agenti umani. Poiché l'AI è in grado di gestire attività di basso livello come rispondere alle domande frequenti e fornire supporto sempre attivo, gli agenti umani sono in grado di dedicare più tempo alle attività di alto livello, con conseguente migliore esperienza utente complessiva.
Rilevamento delle frodi
L'AI sta rapidamente diventando una difesa estremamente potente contro le tattiche in continua evoluzione utilizzate da truffatori e imbroglioni. Gli algoritmi di apprendimento automatico e deep learning possono analizzare pattern di transazione complessi e segnalare comportamenti sospetti attraverso il rilevamento di anomalie. Mentre gli esperti umani nel rilevamento delle frodi dispongono solo di una larghezza di banda limitata, l'AI può analizzare una quantità di dati esponenzialmente maggiore al secondo, uno strumento prezioso per settori come quello bancario.
Esperienze personalizzate
I rivenditori, le banche e altre società rivolte ai clienti stanno utilizzando l'AI per creare esperienze di shopping e intrattenimento più personalizzate, al fine di migliorare la soddisfazione del cliente e prevenire il tasso di abbandono. Gli algoritmi di AI possono utilizzare le informazioni dei clienti, come gli interessi personali e i dati sugli acquisti passati, per adattare le raccomandazioni di prodotti e servizi alle preferenze del cliente.
Risorse umane e recruiting
Assumere e gestire una forza lavoro qualificata può rappresentare un enorme sforzo per qualsiasi settore. Le piattaforme di recruiting basate sull'AI stanno semplificando il processo di assunzione esaminando i curriculum, abbinando i candidati migliori con i ruoli aperti e persino svolgendo colloqui preliminari utilizzando l'analisi video. Strumenti come questi possono aiutare i professionisti delle risorse umane a ridurre il tempo dedicato alle attività amministrative minori e a concentrarsi maggiormente sui candidati più promettenti. Selezionando grandi volumi di potenziali assunzioni, l'AI aiuta a ridurre al minimo i tempi di assunzione e riduce i tempi di risposta, migliorando l'esperienza dei candidati, indipendentemente dal fatto che ottengano il lavoro o meno.
Sviluppo e modernizzazione di applicazioni
Gli strumenti di gen AI, che possono produrre output dettagliati basati su elementi di conversazione, stanno dimostrando un valore unico per programmatori e sviluppatori. Strumenti di AI automatizzati come questi, in grado di produrre codice eseguibile, semplificano le attività ripetitive associate alla scrittura del codice, aiutano nello sviluppo delle applicazioni e accelerano le iniziative di migrazione e modernizzazione delle app. Sebbene non sostituiscano programmatori di talento, gli strumenti di codifica AI possono aiutare a ridurre gli errori e garantire la coerenza del codice.
Manutenzione predittiva
Abbinati a strumenti potenti come la virtualizzazione, i modelli di machine learning possono analizzare i dati raccolti dai sensori, dai dispositivi abilitati all'Internet of Things (IoT) fino alla tecnologia operativa (OT) per creare previsioni affidabili per la manutenzione delle attrezzature, prevenendo i guasti alle macchine. La manutenzione predittiva basata sull'AI può ridurre i costosi tempi di inattività e aiutare le aziende a proteggere i profitti.
La gestione dei workload di qualsiasi tipo è una componente fondamentale di qualsiasi reparto IT di grandi dimensioni. Configurazioni improprie possono ostacolare direttamente le prestazioni complessive del sistema, con conseguente aumento dei costi, riduzione della stabilità ed esperienze utente negative. I fornitori di soluzioni di AI come IBM, Microsoft Azure, Nvidia e Amazon Web Services (AWS) sono costantemente alla ricerca di modi convenienti per ottimizzare, ridurre il carico di larghezza di banda sulle principali pipeline e migliorare le prestazioni complessive durante il ciclo di vita di tutti i tipi di workload.
Sebbene esistano molti tipi di workload complessi, i workload di AI possono essere tra i più impegnativi: richiedono infatti ampie soluzioni di storage dei dati, on-premises o in data center remoti, e hardware potente e specializzato.
Alcune delle principali sfide nell'implementazione dei workload AI sono le seguenti:
- Assegnazione delle risorse: raggiungere workload AI a bassa latenza ed efficienti è una sfida per i processori tradizionali come le CPU. Gli algoritmi AI complessi e il trattamento dei dati richiedono un hardware ottimizzato per l'AI e costruito per l'elaborazione in parallelo. Man mano che i sistemi AI crescono in complessità e densità di dati, la scalabilità diventa un fattore critico.
- Privacy e sicurezza: i workload AI dipendono da (e producono) enormi quantità di dati. Spesso questi dati possono contenere di tutto: informazioni personali sensibili, segreti commerciali e informazioni di governo classificate. Con l'aumentare della complessità di un sistema aumentano anche le potenziali vulnerabilità della sicurezza. Quando si gestisce una quantità di dati così grande e diversificata, l'importanza di rigorosi controlli di sicurezza non può essere sopravvalutata.
- Manutenzione: nel tempo, i modelli di AI devono occasionalmente essere riaddestrati e ricalibrati per garantire la precisione. Il riaddestramento periodico dei modelli AI può rivelarsi un processo costoso e laborioso e deve essere svolto da professionisti qualificati.
- Preoccupazioni etiche: l'utilizzo di sistemi di AI con i workload AI solleva una serie di nuove considerazioni etiche. Questioni come la gestione dei bias algoritmici, la garanzia della trasparenza dei modelli e la garanzia della responsabilità continuano a suscitare dibattiti. Nel caso della gen AI, spesso addestrata sulla proprietà intellettuale originale, le preoccupazioni relative al copyright e all'attribuzione pongono domande interessanti e importanti.
IBM z17: il primo mainframe totalmente progettato per l'era dell'AI
Usa framework e strumenti open source per applicare l'AI e il machine learning ai dati aziendali più preziosi sui mainframe IBM zSystems.
IBM fornisce soluzioni per l'infrastruttura AI per accelerare l'impatto su tutta l'azienda con una strategia hybrid by design.
Sblocca il valore dei dati aziendali con IBM Consulting e crea un'organizzazione basata su insight in grado di generare vantaggi aziendali.