Accelerazione dell'inferenza PyTorch su IBM Z e IBM LinuxONE

18 novembre 2024

Autori

Tina Tarquinio

VP, Product Management, IBM Z and LinuxONE

Elpida Tzortzatos

IBM Fellow and CTO of z/OS and AI on IBM Z and LinuxONE

L'ascesa di PyTorch: trasformare lo sviluppo dell'AI

Nell'ultimo decennio, abbiamo assistito a una radicale trasformazione nelle aziende guidate dall'AI. L'ascesa dei big data e dell'hardware specializzato ha reso accessibili alle masse potenti modelli AI che un tempo erano riservati ai team di ricerca d'élite di università esclusive. Le reti neurali profonde hanno favorito questa democratizzazione e framework di deep learning come PyTorch e TensorFlow hanno aiutato lo sviluppo di questi modelli. PyTorch è diventato un attore chiave nel panorama dell'AI, offrendo vantaggi unici che ne hanno portato all'uso e all'adozione diffusi.

Design 3D di palline che rotolano su una pista

Le ultime notizie e insight sull'AI 


Scopri notizie e insight selezionati da esperti in materia di AI, cloud e molto altro nella newsletter settimanale Think. 

Accelerazione PyTorch con acceleratore on-chip IBM Z Telum per l'AI

I recenti progressi negli acceleratori hardware di AI hanno fornito la potenza necessaria per utilizzare efficacemente i framework di deep learning come PyTorch. Tali miglioramenti hardware accelerano il calcolo di modelli più complessi su set di dati di grandi dimensioni, accelerando notevolmente la sperimentazione e l'implementazione. Con l'aggiornamento più recente di distribuzione continua dell'AI Toolkit for IBM® Z e LinuxONE®, stiamo aggiungendo un supporto per PyTorch attraverso un nuovo container: IBM Z Accelerated for PyTorch. Questo contiene un ambiente di sviluppo e inferenza per PyTorch. Utilizzerà nuove funzionalità di accelerazione di inferenza che mirano in modo trasparente all'IBM Integrated AI Accelerator e offriranno un'accelerazione significativa all'apprendimento automatico e al deep learning tradizionali, nonché ai modelli linguistici di grandi dimensioni (LLM) di Encoder. Queste funzionalità aiutano ad accelerare la sperimentazione con PoC rapidi e a creare soluzioni di AI su IBM Z e LinuxONE.

Mixture of Experts | Podcast

Decoding AI: Weekly News Roundup

Unisciti al nostro gruppo di livello mondiale di ingegneri, ricercatori, leader di prodotto e molti altri mentre si fanno strada nell'enorme quantità di informazioni sull'AI per darti le ultime notizie e gli ultimi insight sull'argomento.

Cos'è PyTorch?

PyTorch è un framework di apprendimento automatico open source che offre una piattaforma flessibile per la creazione di modelli di deep learning. Rilasciato dal laboratorio di ricerca sull'AI di Facebook nel 2016, PyTorch consente agli sviluppatori di creare e modificare facilmente i modelli attraverso la propria struttura dinamica, offrendo così un feedback immediato. Questa adattabilità lo rende particolarmente interessante per i ricercatori e gli sviluppatori che desiderano sperimentare nuove idee.

L'importanza di PyTorch nel framework AI odierno

PyTorch ha guadagnato ampia popolarità nell'ecosistema AI. La sua interfaccia intuitiva e le potenti funzioni lo hanno reso il framework preferito sia per la ricerca accademica, sia per le applicazioni aziendali. PyTorch ha svolto un ruolo fondamentale nel progresso del deep learning fornendo strumenti che semplificano il processo di creazione e addestramento di modelli complessi. La sua flessibilità consente agli sviluppatori di sperimentare diverse architetture e tecniche, arrivando a soluzioni più innovative. Funzioni come la differenziazione automatica e la manipolazione tensoriale intuitiva hanno semplificato l'implementazione di algoritmi avanzati, con conseguente progresso più rapido nella ricerca e nell'applicazione.

Una delle aree più significative in cui PyTorch ha avuto un impatto è lo sviluppo di modelli linguistici di grandi dimensioni (LLM). Questi modelli, in grado di comprendere e generare testo simile a quello umano, hanno rivoluzionato l'elaborazione del linguaggio naturale. Framework come PyTorch hanno agevolato la creazione e la messa a punto di questi modelli, consentendo ai ricercatori di esplorare architetture e metodi di formazione nuovi in modo più efficiente.

In particolare, numerosi di questi ultimi modelli linguistici all'avanguardia, compresi quelli sviluppati dalle principali aziende tecnologiche, sono stati implementati utilizzando PyTorch. La capacità del framework di gestire grandi quantità di dati e il relativo supporto per la formazione distribuita hanno consentito l'ampliamento di modelli in grado di comprendere il contesto e le sfumature del linguaggio.

Con IBM Z Accelerated for PyTorch fornito attraverso l'AI Toolkit for IBM Z e LinuxONE, i nostri clienti possono utilizzare le distribuzioni del modello PyTorch con l'affidabilità, la disponibilità e la scalabilità di IBM Z, insieme alle funzionalità di accelerazione di inferenza dell'acceleratore su chip Telum®. Quest'accelerazione di inferenza è trasparente per i clienti in quanto i container sono progettati per utilizzare al meglio le istruzioni Neural Network Processing Assist (NNPA) di Telum in modo trasparente e automatico.

I clienti possono ora utilizzare questa funzionalità per casi d'uso di alto valore come il rilevamento delle frodi, l'elaborazione dei reclami, l'elaborazione del linguaggio naturale, il rilevamento di immagini e altro ancora. Tali modelli possono essere implementati nel formato nativo PyTorch o esportati in formati come ONNX, altamente ottimizzati per l'inferenza.

Indipendentemente dal fatto che i modelli PyTorch siano distribuiti/implementati su z/OS® o in un ambiente Linux su IBM Z, la colocazione di questi modelli con i dati e le applicazioni mission-critical dei nostri clienti li aiuta a ottenere insight aziendali su larga scala, pur continuando a soddisfare anche gli accordi sul livello di servizio più rigorosi.

Toolkit AI per IBM Z e LinuxONE

L'AI Toolkit for IBM Z e IBM® LinuxONE è progettato per consentire ai nostri clienti di implementare e accelerare l'adozione dei framework AI open source più diffusi sulle loro piattaforme z/OS® e IBM® LinuxONE. L'AI Toolkit segue un processo rigoroso di ingegneria della sicurezza IBM che analizza e scansiona i framework di server AI open source e i container certificati IBM alla ricerca di vulnerabilità della sicurezza e convalida la conformità in base alle normative di settore. I clienti possono inoltre acquistare IBM Elite Support per l'AI Toolkit for IBM Z e LinuxONE.

Maggiori informazioni sull'AI Toolkit for IBM Z e IBM LinuxONE

Scopri cosa puoi aspettarti da IBM Elite Support

Soluzioni correlate
IBM watsonx.ai

Addestra, convalida, adatta e implementa le funzionalità di AI generativa, foundation model e machine learning con IBM watsonx.ai, uno studio aziendale di nuova generazione per builder AI. Crea applicazioni AI in tempi ridotti e con una minima quantità di dati.

Scopri watsonx.ai
Soluzioni di intelligenza artificiale

Metti l'AI al servizio della tua azienda grazie all'esperienza leader di settore e alla gamma di soluzioni di IBM nel campo dell'AI.

Esplora le soluzioni AI
Consulenza e servizi sull'AI

Reinventa i flussi di lavoro e le operazioni critiche aggiungendo l'AI per massimizzare le esperienze, il processo decisionale in tempo reale e il valore di business.

Esplora i servizi AI
Fai il passo successivo

Ottieni l'accesso completo a funzionalità che coprono l'intero ciclo di vita dello sviluppo dell'AI. Crea soluzioni AI all'avanguardia con interfacce intuitive, workflow e accesso alle API e agli SDK standard di settore.

Esplora watsonx.ai Prenota una demo live