L'implementazione dell'AI generativa può sembrare un enigma. In un recente sondaggio dell'IBM Institute for Business Value, il 64% dei CEO ha dichiarato di dovere modernizzare le applicazioni prima di potere utilizzare l'AI generativa. Tuttavia, allo stesso tempo, l'AI generativa ha il potere di trasformare il processo di modernizzazione delle applicazioni attraverso il reverse engineering del codice, la generazione di codice e la conversione del codice da una lingua all'altra, definendo il workflow della modernizzazione e altri processi automatizzati. Ecco come i CTO e i CIO possono valutare la loro tecnologia e il loro patrimonio di dati, valutare l'opportunità e tracciare un percorso da seguire.
I CIO e i CTO devono:
Negli ultimi dieci anni, IBM ha sostenuto una strategia di hybrid cloud per favorire l'innovazione, la produttività e l'efficienza scalabili basate sull'AI. Dal nostro punto di vista, il dibattito sull'architettura è finito. Le organizzazioni che hanno saputo padroneggiare l'hybrid cloud sono ben posizionate per implementare l'AI generativa in tutta l'organizzazione. L'hybrid cloud consente di utilizzare al meglio i potenti modelli linguistici open source di grandi dimensioni (LLM), così come di utilizzare i dati e le risorse di computing pubbliche per addestrare i propri modelli e di mettere a punto in modo sicuro i modelli, mantenendo privati gli insight. Oltre ad aggiungere un enorme valore all'esperienza dei clienti e dei dipendenti, alle funzioni HR e al servizio clienti, l'AI generativa nell'hybrid cloud offre ai CIO e ai CTO un'agilità eccezionale per automatizzare le operazioni IT e modernizzare le applicazioni, eliminando potenzialmente il debito tecnico e consentendo una modernizzazione davvero continua.
Anche per i CIO e i CTO che si sono impegnati nell'hybrid cloud rimangono degli ostacoli organizzativi alla modernizzazione. Innanzitutto, i leader tecnologici devono stimare l'impatto finanziario completo della modernizzazione (rispetto al costo della mancata modernizzazione) nell'organizzazione. Devono promuovere la modernizzazione come iniziativa aziendale, non come progetto informatico. I leader devono anche colmare il divario di competenze dando priorità allo sviluppo dei talenti e devono ottenere un consenso culturale sulla modernizzazione quale investimento aziendale strategico e a prova di futuro, piuttosto che come gioco tecnologico operativo.
Successivamente, i leader devono comprendere il valore aziendale che l'AI generativa può apportare alla modernizzazione per capire dove investire. Nell'esperienza dei nostri team di IBM Consulting, le organizzazioni che stanno iniziando il percorso di modernizzazione necessitano di una prospettiva sull' "arte del possibile" quando si tratta di capire i benefici e il valore dell'automazione basata sull'AI. Le organizzazioni che sono più avanti nel percorso cercano chiarezza sui casi d'uso nei loro settori, così come assistenza per gestire opportunità uniche.
All'interno delle operazioni IT, i casi d'uso dell'AI generativa includono il triage automatico dei sistemi per aderire agli obiettivi del livello di servizio, ovvero gestire, comunicare, fornire assistenza, rispondere alle richieste, risolvere i ticket e rilevare e gestire eventi e anomalie. La gen AI può migliorare l'automazione IT creando ed eseguendo runbook e aiutando gli utenti a passare a nuove knowledge base e soluzioni software. Può anche aiutare nell'ingegneria della piattaforma, ad esempio generando pipeline DevOps e script di automazione.
Si potrebbe dire molto di più sulle operazioni IT come fondamento della modernizzazione, tuttavia qui daremo priorità alla discussione di quattro workflow a cui è possibile applicare l'AI generativa.
I CTO/CIO dovrebbero considerare i rapidi vantaggi derivanti dall'uso dell'AI generativa all'interno di queste funzioni. Cerca opportunità relativamente discrete e a basso rischio per esplorare le implementazioni proof-of-concept. Inizia in piccolo, prova e scala.
Selezionare subito i foundation model giusti può aiutarti a fornire risultati più accurati ed efficienti alla tua azienda.
L'architettura dei trasformatori avvantaggia le dimensioni: i modelli più grandi producono risultati migliori. C'è quindi una corsa all'AI generativa per creare foundation model sempre più grandi per applicazioni sempre più vaste. Tuttavia, sebbene i modelli più grandi siano potenti, un modello complesso con miliardi di parametri potrebbe non rappresentare sempre la scelta migliore per un'azienda. Un modello più piccolo che è stato messo a punto per un'attività può spesso superare un modello di grandi dimensioni che non è stato messo a punto per quell'attività. Questi modelli possono essere eseguiti su LLM a uso generico con una piccola calibrazione se la base è adatta all'uso aziendale. Ad esempio, i foundation model Granite di IBM, con 13 miliardi di parametri, disponibili nella prossima versione di watsonx.ai, sono molto più piccoli dei più grandi LLM (che contengono centinaia di miliardi di parametri), ma funzionano bene in attività specifiche dell'azienda come la sintesi, la risposta alle domande e la classificazione, oltre a essere molto più efficienti.
I foundation model su misura consentono inoltre alle organizzazioni di automatizzare e accelerare la modernizzazione, generando frammenti di codice e componenti applicativi, oltre ad automatizzare i test delle applicazioni. Basandosi sui modelli di codice integrati in watsonx.ai, IBM watsonx Code Assistant può essere utilizzato anche per convertire il codice, ad esempio da COBOL a Java. All'interno di watsonx Code Assistant, gli sviluppatori di tutti i livelli di esperienza possono formulare le richieste in un linguaggio semplice e ottenere consigli generati dall'AI, oppure generare codice basato sul codice sorgente esistente. watsonx.ai include anche l'accesso a StarCoder LLM, addestrato sui dati con licenza aperta di GitHub. Gli sviluppatori possono utilizzare StarCoder per accelerare la generazione di codice e aumentare la produttività ai fini della modernizzazione delle applicazioni e dell'IT.
Oltre alle dimensioni, nella scelta di un foundation model, i CTO dovrebbero considerare anche i linguaggi naturali e i linguaggi di programmazione supportati dal modello, così come la quantità di messa a punto necessaria per il modello.
Nell'AI generativa, i metodi di calcolo del ROI non sono maturi o standardizzati, né sono spesso disponibili benchmark comparativi. Per le applicazioni aziendali, la messa a punto, il prompt engineering e l'esecuzione di workload ad alta intensità di calcolo richiedono investimenti significativi.
Esistono quattro fattori chiave da considerare nella selezione e nell'implementazione di un modello, che variano a seconda del dominio, del settore e del caso d'uso. Il primo fattore di costo è il metodo di determinazione dei prezzi o delle licenze. Questo viene valutato in base all'utilizzo delle API su cloud pubblici e gestiti e in base ai costi di hosting ed elaborazione su cloud ibridi e privati. Il secondo fattore di costo è l'attività di sviluppo, che è maggiore nei cloud ibridi e privati ed è strettamente legata al terzo fattore, ovvero la sicurezza dei dati. Infine, è necessario considerare i potenziali impatti della proprietà intellettuale e dei rischi per la sicurezza, che sono entrambi ridotti nei cloud ibridi e privati.
Anche la disponibilità dei dati e i fattori di governance devono essere considerati nella valutazione del ROI. Attraverso il portfolio di prodotti di AI watsonx, IBM sta facendo passi da gigante nella fornitura di foundation model orientati alle esigenze degli utenti business: il data store fit-for-purpose fornito in watsonx.data, costruito su un'architettura lakehouse aperta, consente alle aziende di personalizzare i propri modelli ovunque si trovino i workload. Gli strumenti di watsonx.governance aiuteranno le organizzazioni a promuovere in modo efficiente workflow responsabili, trasparenti e spiegabili in tutta l'azienda.
Con l'accelerazione delle funzionalità e degli utilizzi dell'AI generativa, attribuire dei numeri ai benefici dell'equazione del ROI può essere difficile. Tuttavia ha senso che CIO e CTO prendano in esame i molti modi in cui le organizzazioni hanno creato valore aziendale dall'AI tradizionale quale punto di partenza, estrapolando il valore potenziale dai casi di prova dell'AI generativa e dai rapidi successi ottenuti.
Sia che si tratti di programmi ESG formali o di missioni aziendali, la sostenibilità è più che una buona etica ed è sempre più riconosciuta come un business migliore. Le aziende impegnate ed efficaci nella sostenibilità possono aumentare il valore aziendale migliorando il rendimento per gli azionisti, l'aumento del fatturato e la redditività. Pertanto, è saggio che i CTO tengano conto della sostenibilità nel calcolo dell'adozione dell'AI generativa.
L'addestramento, la messa a punto e l'esecuzione di modelli AI possono lasciare un'enorme impronta di carbonio. Ecco perché IBM aiuta a personalizzare l'AI generativa per l'azienda con foundation model affidabili, portatili ed efficienti dal punto di vista energetico. Realizzare modelli più piccoli e utilizzare le risorse informatiche in modo più efficiente può ridurre notevolmente le spese e le emissioni di carbonio. IBM Research sta anche sviluppando tecnologie di addestramento dei modelli più efficienti, come l'algoritmo LiGo, che ricicla modelli piccoli e li trasforma in modelli più grandi, risparmiando fino al 70% di tempo, costi ed emissioni di carbonio.
Per finire, l'implementazione efficace dell'AI generativa dipende da persone competenti ed entusiaste. Pertanto, i reparti delle risorse umane dovrebbero essere al centro della strategia della tua organizzazione. Inizia con il reskilling degli stessi professionisti dell'HR, che molto probabilmente utilizzano già strumenti basati sull'AI per le assunzioni. Successivamente, sviluppa un'iniziativa di gestione formale per comunicare dove sono in corso sia i test che l'adozione dell'AI generativa, così da fornire un feedback.