IBM Cloud Code Engine introduce Serverless Fleets con GPU

Ufficio con persone sedute alle scrivanie dei computer e altre in piedi vicino a un muro bianco con post-it

Autore

Uwe Fassnacht

Product Director for IBM Cloud Code Engine

Per affrontare le sfide uniche dell'esecuzione di workload su larga scala e ad alta intensità di calcolo su una piattaforma serverless completamente gestita, IBM Cloud Code Engine ha introdotto Serverless Fleets.

L'AI di livello aziendale, inclusa l'AI generativa, richiede un'infrastruttura ad alta intensità di calcolo e ad alta intensità di dati. La tecnologia serverless, nella sua forma attuale, a volte non è sufficiente per supportare workload ad alta intensità di calcolo.

Via via che la tecnologia affronta problemi più complessi, dal machine learning alle simulazioni su larga scala, i sistemi dovranno eseguire migliaia, magari anche milioni, di attività spesso in parallelo. Serverless Fleets può aiutare a semplificare il modo in cui gli sviluppatori eseguono questi workload paralleli fornendo risorse completamente gestite in grado di scalare in modo elastico. I workflow tradizionali per workload ad alta intensità di calcolo richiedono spesso un dimensionamento e investimenti iniziali in infrastrutture e gestione complessa delle risorse.

Serverless Fleets è progettato per contribuire a ridurre questa complessità operativa astraendo l'infrastruttura sottostante e offrendo un modo semplice per eseguire un gran numero di attività in parallelo. Serverless Fleets può cambiare le regole del gioco per le aziende di tutti i settori, compresi i settori dei servizi finanziari e delle scienze biologiche.

Cos'è Serverless Fleets?

Serverless Fleets consente ai data scientist e agli sviluppatori di inviare un gran numero di lavori batch a un singolo endpoint. IBM Cloud Code Engine fornisce quindi automaticamente le risorse di calcolo necessarie, incluse macchine virtuali e GPU serverless, per eseguire in contemporanea il maggior numero di attività possibili. In questo modo si automatizza la gestione delle risorse, che spesso è un processo manuale per i calcoli su larga scala.

Pensa al tuo attuale ambiente IT come a una catena alberghiera. In qualità di proprietario di una catena, potresti avere acquistato diversi edifici di grandi dimensioni con migliaia di camere, ciascuno con un costo operativo e una gestione individuale. Immagina invece se potessi creare automaticamente una camera quando qualcuno vuole soggiornare in albergo e poi la camera venisse distrutta quando l'ospite fa il check-out. Questo è esattamente il modo in cui funziona Serverless Fleets: fornire l'infrastruttura per workload di grandi dimensioni utilizzando le GPU secondo necessità e rimuoverla quando non sono più necessarie, addebitando solo quando viene utilizzata la tecnologia. 

Come funziona Severless Fleets

Serverless Fleets utilizza il valore esistente di IBM Cloud Code Engine per workload ad alta intensità di elaborazione, come simulazioni su larga scala, elaborazione dei dati, AI e machine learning:

  • Gestione unificata: le aziende possono gestire applicazioni web, processi batch e funzioni serverless in un unico ambiente unificato. Questo punto di controllo centrale aiuta a semplificare l'architettura e la gestione di applicazioni complesse che combinano diversi tipi di workload.
  • Ottimizzazione dei costi: il modello "pay-as-you-go" è molto conveniente per i workload imprevedibili o intermittenti, in quanto Code Engine fornisce le risorse solo quando i job sono in esecuzione.
  • Sicurezza: IBM Cloud Code Engine eredita le funzionalità di sicurezza di IBM Cloud, inclusa la crittografia dei dati in transito e a riposo. Questo approccio è fondamentale per la gestione di grandi quantità di dati, in particolare dei workload associati all'AI. 

Esempi del mondo reale: 

Le imprese che operano in settori altamente regolamentati, come i servizi finanziari, devono affrontare una serie di sfide uniche che devono essere comprese per avviare una vera trasformazione. Queste organizzazioni hanno il compito di gestire i dati sensibili dei clienti, mantenere la resilienza e soddisfare i mutevoli requisiti normativi. L’esecuzione di workload ad alta intensità di calcolo non dovrebbe essere un ulteriore ostacolo all’innovazione.

Ad esempio, le compagnie assicurative necessitano di enormi quantità di potenza di elaborazione per eseguire i calcoli delle polizze, creare modelli di prezzo, riferire alle autorità di regolamentazione e regolare il rischio in tempo reale. Serverless Fleets supporta questi workload, progettati per rendere più facile ed economica per le aziende del settore finanziario l’esecuzione di simulazioni, modelli e valutazioni.

“Utilizzando la potenza di Serverless Fleets e IBM Cloud Code Engine, MavenBlue può rimanere all’avanguardia nella sua missione di fornire nuovi insight, velocità e agilità analitica per il settore assicurativo”, ha dichiarato Paul Hagg, CTO di MavenBlue. “Disponiamo di un solido set di piattaforme di nuova generazione che forniscono approfondimenti, analisi di solvibilità lungimiranti e modelli di determinazione dei prezzi. Serverless Fleets ci aiuta a sbloccare la potenza di calcolo di cui abbiamo bisogno in modo flessibile ed economico”.

Il settore delle scienze biologiche ha un compito simile, ovvero migliorare le prestazioni dei sistemi per rimanere competitivo. La potenza di calcolo per la ricerca e lo sviluppo è fondamentale, soprattutto perché le aziende farmaceutiche lottano contro il tempo per introdurre nuove terapie sul mercato, semplificare le sperimentazioni cliniche e utilizzare insight basati sui dati. Ciò richiede che dispongano di sistemi interoperabili che danno priorità alla sicurezza e all’affidabilità. Serverless Fleets può aiutare le organizzazioni del settore delle scienze biologiche ad adattarsi in modo efficiente al mercato in continua evoluzione, fornendo l’infrastruttura necessaria senza che i team IT debbano farlo.

“Per adempiere alla missione di Bayer ‘Health for all, Hunger for none‘, facciamo affidamento su soluzioni innovative e ad alte prestazioni nella nostra attività di ricerca e sviluppo. Con Serverless Fleets abbiamo trovato una piattaforma altamente scalabile e stabile che ci consente di eseguire anche le attività più impegnative e ad alta intensità di calcolo in modo affidabile e a condizioni molto eque. In Bayer, siamo stati particolarmente colpiti dalla facilità di scalabilità e dall’eccezionale supporto fornito da IBM”, ha dichiarato il dott. Georg Mogk, Bayer AG, Prinzipal Expert Applied Mathematics.

Fornisci servizi in modo rapido e conveniente

La realtà del panorama odierno è che le aziende di tutti i settori devono fornire servizi in modo rapido e conveniente, dando priorità alla sicurezza, alla resilienza e al risparmio sui costi.

Serverless Fleets può aiutare gli sviluppatori e i data scientist a gestire i workload più impegnativi per contribuire a fornire questi servizi, restituendo loro il tempo per concentrarsi sulla codifica, anziché sulla gestione dell'infrastruttura. Mentre IBM si impegna a rendere l'elaborazione avanzata più accessibile ed efficiente, Serverless Fleets è un passo nella giusta direzione.

Maggiori informazioni su IBM Cloud Code Engine

Scopri di più su Serverless Fleets al TechXchange