Il futuro dell'AI sul mainframe: 4 percorsi per l'innovazione AI guidata dal mainframe

La maggior parte delle persone, quando sente il termine "mainframe", potrebbe non rendersi conto del suo contributo vitale all'innovazione nel business aziendale. Nell'entusiasmo che circonda l'l'AI generativa, è facile supporre che le infrastrutture IT legacy, come il mainframe, non siano coinvolte.

La verità è che il mainframe è pronto a svolgere un ruolo cruciale nel guidare l'innovazione, integrando le tecnologie di accelerazione dell'AI di nuova generazione con un ecosistema ottimizzato per migliorare le funzionalità aziendali e tecnologiche.

Se diamo uno sguardo indietro, è chiaro che il mainframe sia effettivamente alla base dell'innovazione continua da oltre 60 anni. Secondo un recente rapporto dell'IBM Institute for Business Value, 43 delle 50 principali banche al mondo e 8 delle prime 10 società di pagamento utilizzano il mainframe come piattaforma principale.

Per i settori che gestiscono enormi quantità di dati, ad esempio finanza, sanità e governo, i mainframe stanno acquisendo maggiore rilevanza per le strategie di intelligenza artificiale (AI). Di fatto, lo stesso rapporto IBV ha mostrato che il 79% dei dirigenti IT ritiene che i mainframe siano essenziali per consentire l'innovazione basata sull'AI e la creazione di valore.

Allo stesso tempo, questi leader aziendali stanno anche cercando di integrare l'AI nei mainframe esistenti per attingere a insight preziosi, automatizzare le attività e migliorare l'efficienza, preservando la propria infrastruttura strategica. Questo approccio massimizza il valore dei sistemi legacy, introducendo al contempo nuove funzionalità attraverso analisi e automazione basate sull'AI.

Molte delle attuali implementazioni di AI richiedono alle organizzazioni di spostare i propri dati nel cloud. Tuttavia, per i settori che si affidano all'elaborazione dei dati ad alta velocità per gestire dati altamente sensibili, mantenere le funzionalità di AI più vicine a dove risiedono i dati offre notevoli vantaggi aziendali.

"Si tratta di portare l'AI dove avviene l'azione e questo sta avvenendo in 2 aree principali" afferma Khadija Souissi, Principal Solution Architect, AI on IBM Z e LinuxONE e Distinguished Technical Specialist di IBM.

"Stiamo integrando l'AI nei workload transazionali per ottenere insight in tempo reale sulle applicazioni aziendali, per un processo decisionale più rapido e per consentire ai clienti di creare applicazioni intelligenti in modo sostenibile che adottano le soluzioni di AI generativa salvaguardando al contempo i dati sensibili. Inoltre, stiamo costruendo un'infrastruttura intelligente, utilizzando l'AI per i sistemi operativi e i sottosistemi mainframe. Questo potrebbe aiutare a prevedere i workload imminenti per preparare in modo proattivo le risorse richieste e anche per rilevare anomalie operative del sistema che potrebbero aiutare a prevedere le interruzioni ed estrarre insight fruibili relativi alle prestazioni del sistema".

I mainframe gestiscono quasi il 70% dei workload IT di produzione mondiali e sono affidabili per la loro stabilità, alta sicurezza e scalabilità. Gli acceleratori AI su chip possono attualmente scalare ed elaborare milioni di richieste di inferenza al secondo con tassi di latenza molto bassi. Questa funzionalità consente alle organizzazioni di utilizzare i dati e la gravità transazionale collocando strategicamente grandi set di dati, AI e applicazioni aziendali critiche. In futuro, gli acceleratori di nuova generazione apriranno nuove opportunità per espandere le funzionalità e i casi d'uso dell'AI via via che le esigenze di un'organizzazione crescono.

I modelli di AI tradizionale e di AI generativa (gen AI) stanno contribuendo a definire e plasmare le aziende moderne. I casi d'uso mission-critical e transazionali richiedono capacità di machine learning, deep learning e funzionalità di AI che a volte lavorano insieme in un'architettura unica per ottenere risultati aziendali migliori.

Sul mainframe, l'architettura a modelli multipli utilizza i punti di forza di ciascuno di questi diversi modelli, generando un processo decisionale più robusto, preciso e flessibile.

Guardando prima all'AI tradizionale, questi modelli applicano generalmente regole predefinite per analizzare i dati e prendere decisioni basate su modelli specifici. Esempi includono il forecasting per la gestione dell'inventario o le decisioni di credito basate sui dati storici di un cliente.

L'evoluzione dell'AI è stata contrassegnata da nuovi concetti come i modelli linguistici di grandi dimensioni (LLM), ovvero modelli AI addestrati su grandi quantità di dati in grado di comprendere il linguaggio naturale, generare testo simile a quello umano, tradurre lingue, rispondere a domande, scrivere codice e persino condurre conversazioni.

Gli LLM che generano contenuti vengono generalmente definiti modelli di decodificatore e sono utilizzati nell'AI generativa. Questa funzionalità è visibile nei chatbot che forniscono risposte personalizzate al servizio clienti in base alle richieste e al contesto degli utenti. 

I modelli encoder sono un altro tipo di LLM che eccelle nella comprensione del linguaggio naturale e nell'elaborazione di testo non strutturato, concentrandosi sull'estrazione di informazioni chiave. I modelli decoder condividono questa funzionalità ma sono ottimi anche per la generazione di nuovi contenuti.

L'architettura a modelli multipli è un concetto ibrido che integra diverse tecnologie di AI, come i tradizionali modelli encoder AI e LLM, per fornire risultati più rapidi e accurati di quanto qualsiasi modello possa ottenere da solo, utilizzando l'enorme potenza di elaborazione e le capacità di archiviazione dei dati del mainframe.

Nell'elaborazione delle richieste di risarcimento assicurativo, ad esempio, l'AI tradizionale può condurre un'analisi iniziale dei dati strutturati, mentre gli encoder LLM possono gestire dati non strutturati più complessi per ottenere insight più dettagliati e gestire le richiesta di risarcimento di conseguenza.

Prendiamo in considerazione un sinistro stradale. L'AI tradizionale fornisce l'elaborazione automatizzata dei dati strutturati (ad esempio, rapporti della polizia, patenti e registrazione del veicolo). La gen AI fa un ulteriore passo avanti, estraendo insight dai dati non strutturati (ad esempio, testo e immagini relativi a lesioni e danni ai veicoli) per aiutare a stabilire le priorità e soddisfare l'urgenza di tali reclami.

Di recente, IBM ha annunciato l'imminente arrivo del processore IBM Telum II e dell'acceleratore IBM Spyre. Queste tecnologie sono progettate per aiutare le aziende a scalare la capacità di elaborazione tra i sistemi IBM Z e ad accelerare l'uso di modelli AI tradizionali, modelli AI linguistici di grandi dimensioni e architettura di modelli multipli.

La scheda Spyre Accelerator consentirà ai sistemi IBM Z e LinuxONE di eseguire l'inferenza AI per LLM e gen AI su una scala ancora maggiore di quella precedentemente disponibile.

Ecco quattro esempi di casi d'uso che dimostrano come le organizzazioni potrebbero utilizzare queste tecnologie di AI per promuovere l'innovazione aziendale, migliorare le operazioni e accelerare i workload di AI generativa.

Le perdite finanziarie dovute a transazioni fraudolente con carte di credito causano danni finanziari e alla reputazione. Secondo il Nilson Report, si prevede che le perdite delle carte di credito in tutto il mondo raggiungano i 43 miliardi di dollari entro il 2026.¹ 

Un case study interno di IBM ha mostrato che una grande banca nordamericana aveva sviluppato un modello di punteggio di credito basato su AI e lo ha implementato su una piattaforma cloud on-premise per aiutare a combattere le frodi. Tuttavia, solo il 20% delle transazioni con carta di credito può essere valutato in tempo reale. La banca ha deciso di spostare i complessi strumenti di rilevamento delle frodi sul suo mainframe.

Dopo l'implementazione del mainframe, la banca ha iniziato a valutare il 100% delle transazioni con carta di credito in tempo reale, con 15.000 transazioni al secondo, ottenendo un significativo rilevamento delle frodi.

Inoltre, ogni transazione richiedeva 80 millisecondi per ottenere un punteggio. Con la latenza ridotta fornita dal mainframe, i tempi di risposta non superano i 2 millisecondi. Questo passaggio al mainframe ha inoltre consentito alla banca di risparmiare più di 20 milioni di dollari nelle spese annuali per la prevenzione delle frodi senza influire sugli accordi sui livelli di servizio.

Il mainframe è fondamentale nelle transazioni con carta di credito e gestisce il 90% delle transazioni in tutto il mondo^. 2 Le organizzazioni possono continuare a contare sul mainframe e, contemporaneamente, integrare l'AI per rilevare le frodi prima che una transazione si concluda, facendo affidamento sulle grandi quantità di dati delle transazioni già memorizzare, anziché spostarle in un ambiente cloud.

Secondo Forbes, il costo medio dei tempi di inattività IT può arrivare fino a 9.000 dollari al minuto per le grandi organizzazioni e oltre 5 milioni di dollari all'ora per le imprese ad alto rischio.³

Per fortuna le organizzazioni possono ora utilizzare l'AI per prevenire o addirittura prevedere in modo proattivo un'interruzione causata da un guasto delle apparecchiature. Applicando meccanismi di AI, le organizzazioni possono rilevare anomalie a livello di transazione, applicazione, sottosistema e sistema. Ad esempio, i sensori possono analizzare i dati dei componenti del mainframe per prevedere potenziali guasti hardware e consentire la manutenzione preventiva.

L'integrazione del mainframe con nuove tecnologie, come il cloud e i sistemi distribuiti, può creare complessità per l'infrastruttura IT e i team applicativi. Le organizzazioni si rivolgono sempre più all'intelligenza artificiale per le operazioni IT (AIOps),ovvero l'applicazione delle funzionalità di AI per automatizzare, semplificare e ottimizzare l'infrastruttura IT e i workflow operativi. AIOps consente ai team addetti alle operazioni IT di rispondere rapidamente a rallentamenti e interruzioni, fornendo una visibilità e un contesto migliori.

La privacy dei dati è fondamentale per le organizzazioni che gestiscono dati sensibili. Questo è uno dei motivi principali per cui settori come l'assistenza sanitaria continuano ad affidarsi alle solide caratteristiche di sicurezza del mainframe, tra cui l'isolamento dei workload, la crittografia dei dati e i protocolli di comunicazione sicuri.

L'elaborazione dei documenti sul mainframe consente di semplificare e fornire un'estrazione accurata dei dati in un ambiente altamente sicuro. Le organizzazioni possono utilizzare la gen AI per riepilogare documenti finanziari e report aziendali, estrarre dati chiave (ad esempio, metriche finanziarie e indicatori delle prestazioni) e identificare le informazioni essenziali per i processi di conformità, come gli audit finanziari.

In un altro esempio, i governi possono utilizzare la gen AI per migliorare il controllo doganale delle merci sospette tramite sofisticate tecniche di elaborazione delle immagini e analisi delle descrizioni testuali associate a ciascuna spedizione.

Una delle maggiori sfide del mainframe è stata la migrazione delle applicazioni legacy scritte in COBOL in linguaggi di programmazione più moderni. Perché? Ciò è dovuto principalmente al passaggio generazionale nella forza lavoro tecnologica, in cui i nuovi sviluppatori hanno acquisito competenze in linguaggi come Java e Python durante la loro formazione, mentre molti professionisti esperti sono ancora specializzati nelle tecnologie più vecchie.

Tuttavia, COBOL non scomparirà presto, poiché è ancora alla base di molti sistemi aziendali critici in settori come quello bancario e governativo. Secondo Reuters, il 43% dei sistemi bancari è costruito su COBOL e attualmente sono in uso 220 miliardi di linee di COBOL.⁴

Gli assistenti virtuali sul mainframe stanno aiutando a colmare il divario di competenze degli sviluppatori. Strumenti come IBM watsonx Code Assistant for Z utilizzano l'AI generativa per analizzare, comprendere e modernizzare le applicazioni COBOL esistenti. Questa funzionalità consente agli sviluppatori di tradurre il codice COBOL in linguaggi come Java. Inoltre, accelera la modernizzazione delle applicazioni preservando le funzionalità dei sistemi COBOL di tipo legacy.

Le caratteristiche di watsonx Code Assistant includono la spiegazione del codice, il refactoring automatico e consigli sull'ottimizzazione del codice, che facilitano agli sviluppatori la manutenzione e l'aggiornamento delle vecchie applicazioni COBOL.

Per decenni, il mainframe si è evoluto e continua a evolversi di pari passo per cogliere le opportunità offerte dall'AI di nuova generazione. L'introduzione del processore Telum II e della scheda Spyre Accelerator offre alle organizzazioni l'opportunità di sbloccare valore aziendale e creare nuovi vantaggi competitivi.

"Oggi il mainframe non è solo una piattaforma transazionale, bensì una piattaforma AI in evoluzione che offrirà un valore significativo via via che le aziende intraprendono il proprio percorso di AI," afferma Khadija Souissi.