I rischi e le alternative di ChatGPT: aprire la strada a un'AI affidabile

Stai preparando un frullato da offrire ai tuoi amici. Hai già mescolato frutta mista e yogurt e il tuo amico Ruchir arriva con una mela matura e te la regala, per completare il tuo capolavoro rinfrescante. Ora è completo, si può ancora sentire il sentore di mela mentre versi la bevanda. Prima del primo sorso, Ruchir dice: "Ho cambiato idea, devo andare e vorrei riavere la mia mela". Tu rispondi: "Scusami, ma non è possibile". Torneremo su questa storia tra un minuto e spiegheremo come si colleghi a ChatGPT e a un'AI affidabile.

Con l'evoluzione del mondo dell'intelligenza artificiale (AI), nuovi strumenti come ChatGPT di OpenAI hanno attirato l'attenzione per le loro capacità conversazionali. Tuttavia, comprendo anche la criticità della valutazione dei rischi intrinseci prima di avviarne l'adozione diretta all'interno delle nostre organizzazioni. In questa discussione, esploro i rischi e le sfide associati a ChatGPT in un contesto aziendale, che richiedono un approccio attento alla sua implementazione. Inoltre, sottolineo l'importanza di adottare IBM watsonx per garantire soluzioni di AI affidabile. In caso di dubbi, ti consiglio di usare lo stesso buon senso che hai sempre usato nell'utilizzo di nuovi servizi Internet.

ChatGPT utilizza l'immensa potenza di GPT-3 (link esterno a ibm.com) e GPT-4, appartenenti a una nuova classe di "giganteschi" modelli linguistici di grandi dimensioni molto utilizzati in varie applicazioni di AI. Con ChatGPT gli utenti possono fare domande, generare testo, scrivere e-mail, parlare di codice in diversi linguaggi di programmazione, tradurre dal linguaggio naturale al codice e molto altro. Si distingue come chatbot conversazionale di alta qualità che mira a fornire risposte coerenti e consapevoli del contesto.

ChatGPT è uno strumento eccellente per esplorare la scrittura creativa, generare idee e interagire con l'AI. È gratuito per tutti, con una versione più avanzata disponibile per gli abbonati a ChatGPT Plus. La capacità del chatbot di ricordare conversazioni precedenti si aggiunge alla sua esperienza interattiva e coinvolgente.

Sebbene ChatGPT abbia acquisito notevole attenzione e popolarità, si trova ad affrontare la concorrenza di altri chatbot basati sull'AI e sistemi di elaborazione del linguaggio naturale (NLP). Google, ad esempio, ha sviluppato Bard, il suo ai chatbot, alimentato da un proprio motore linguistico chiamato PaLM 2. Allo stesso modo, Meta ha recentemente rilasciato il suo notevole modello LLaMA2. Via via che il campo dei chatbot AI continua a evolversi, assisteremo sicuramente a una maggiore concorrenza e all'emergere di nuovi protagonisti. È fondamentale rimanere aggiornati sui progressi in questo ambito per esplorare le soluzioni migliori per le esigenze aziendali.

L'utilizzo diretto di ChatGPT in un'azienda presenta rischi e sfide. Questi includono sicurezza e perdite di dati, questioni di riservatezza e responsabilità, complessità legate alla proprietà intellettuale, conformità alle licenze open source, limitazioni per lo sviluppo dell'AI e incertezza riguardo alla privacy e alla conformità alle leggi internazionali. Qui esploro questi rischi e condivido esempi che illustrano come questi rischi possano manifestarsi nelle attività quotidiane di un'azienda.

Inizierò prendendo in esame soluzioni alternative che mirano a mitigare i rischi legati all'uso diretto di ChatGPT, incluso IBM watsonx, che raccomando per l'uso aziendale perché affronta la proprietà dei dati e le questioni di privacy attraverso una rigorosa cura e governance. Concluderò questa conversazione tornando alla storia del frullato, lo prometto, ma quando di seguito menzionerò "i tuoi dati", sentiti libero di sostituire la frase con "la tua mela".

Prima di esplorare soluzioni alternative, è fondamentale che le aziende siano consapevoli dei potenziali rischi e delle sfide che derivano dall'utilizzo diretto di ChatGPT. Nell'ottica del buon senso, ricordiamoci che alla storia di internet appartengono l'emergere e l'evoluzione di nuovi servizi (ad esempio, la ricerca Google, le piattaforme social media, ecc.), il che sottolinea l'importanza della privacy e della proprietà dei dati per un'azienda. Tenendo presente ciò, ecco i fattori chiave che dovrebbero essere presi in considerazione:

Sicurezza e fuga di dati

Se informazioni sensibili di terze parti o interne aziendali vengono inserite in ChatGPT, diventano parte del modello dati del chatbot e possono essere condivise con altre persone che pongono domande pertinenti. Ciò potrebbe causare fughe di dati e violare le policy di sicurezza di un'organizzazione.

Esempio: i piani per un nuovo prodotto di un cliente, che il tuo team sta aiutando a lanciare, incluse specifiche riservate e strategie di marketing, non dovrebbero essere condivisi con ChatGPT per evitare il rischio di fuga di dati e potenziali violazioni di sicurezza.

Riservatezza e privacy

In modo simile, condividere informazioni riservate di clienti o partner può violare accordi contrattuali e requisiti legali per la protezione di tali informazioni. Se la sicurezza di ChatGPT viene compromessa, potrebbero trapelare contenuti riservati, compromettendo potenzialmente la reputazione dell'organizzazione ed esponendola a un'attribuzione della responsabilità.

Esempio: supponiamo che un'organizzazione sanitaria utilizzi ChatGPT per aiutare nella risposta alle richieste dei pazienti. Se informazioni riservate dei pazienti, come cartelle cliniche o dati sanitari personali, vengono condivise con ChatGPT, ciò potrebbe violare gli obblighi legali e il diritto alla privacy dei pazienti, protetti da leggi come l'HIPAA (Health Insurance Portability and Accountability Act)(link esterno a ibm.com) negli Stati Uniti.

Problemi di proprietà intellettuale

La proprietà del codice o del testo generati da ChatGPT può essere complessa. I termini di servizio indicano che l'output appartiene al fornitore dell'input, ma possono sorgere problemi quando l'output include dati legalmente protetti provenienti da altri input. I problemi di copyright possono sorgere anche se ChatGPT viene utilizzato per generare materiale scritto basato su proprietà protette da copyright.

Esempio: generare materiale scritto per scopi di marketing e l'output include contenuti protetti da copyright da fonti esterne senza un'adeguata attribuzione o autorizzazione, potrebbe potenzialmente violare i diritti di proprietà intellettuale dei creatori di contenuti originali. Questo può comportare conseguenze legali e danni alla reputazione per l'azienda.

Conformità alle licenze open source

Se ChatGPT utilizza librerie open source e incorpora quel codice nei prodotti, potrebbe potenzialmente violare le licenze Software Open Source (OSS) (ad esempio, GPL), portando a complicazioni legali per l'organizzazione.

Esempio: se un'azienda utilizza ChatGPT per generare codice per un prodotto software e l'origine dei dati di addestramento utilizzati per addestrare GPT non è chiara, c'è il rischio di violare potenzialmente i termini delle licenze open source associate a quel codice. Ciò può comportare complicazioni legali, tra cui rivendicazioni di violazione della licenza e potenziali azioni legali da parte della comunità open source.

Limitazioni sullo sviluppo dell'AI

I termini di servizio di ChatGPT specificano che non può essere utilizzato per lo sviluppo di altri sistemi di AI. L'utilizzo di ChatGPT in questo modo potrebbe ostacolare i futuri piani di sviluppo dell'AI, se l'azienda opera in questo settore.

Esempio: un'azienda specializzata nella tecnologia di riconoscimento vocale intende migliorare il proprio sistema esistente integrando le funzionalità di elaborazione del linguaggio naturale di ChatGPT. Tuttavia, i termini di servizio di ChatGPT stabiliscono esplicitamente che non può essere utilizzato per lo sviluppo di altri sistemi di AI.

Tornando alla nostra storia sul frullato, la versione pubblica di ChatGPT utilizza il tuo prompt per migliorare la sua rete neurale, proprio come la mela aggiunge sapore al frullato. Una volta che i tuoi dati entrano in ChatGPT, come la mela frullata, non hai alcun controllo né conoscenza di come vengano utilizzati. Pertanto, bisogna essere certi di avere tutti i diritti per includere la propria mela e che questa non contenga dati sensibili, per così dire.

Per eliminare queste preoccupazioni, IBM watsonx offre dati e modelli trasparenti e resi accurati, garantendo maggiore controllo e fiducia nella creazione e nell'uso del tuo frullato. In altre parole, se Ruchir chiedesse indietro la sua mela, watsonx potrebbe onorare la sua richiesta. Ecco.... analogia e storia complete.

IBM watsonx introduce tre funzionalità principali (watsonx.data, watsonx.ai, e watsonx.governance), che collaborano per stabilire un'AI affidabile in un modo che non è ancora presente nei modelli OpenAI. Queste caratteristiche rendono accurati ed etichettano i dati e i modelli AI, garantendo la trasparenza delle informazioni sull'origine e sulla proprietà. Governano anche i modelli e i dati, affrontando i problemi di deriva e di distorsione in corso. Questo approccio rigoroso attenua efficacemente i problemi relativi alla proprietà dei dati e alla privacy discussi in questo articolo.

IBM ha avviato una partnership con Hugging Face, un'azienda open source, per creare un ecosistema di modelli. Entrambe le aziende utilizzano le caratteristiche di watsonx per rendere accurati e approvare i modelli in base alla loro funzionalità e affidabilità.

L'uso diretto di AI chatbot come ChatGPT all'interno di un'azienda presenta rischi a livello di sicurezza, perdita di dati, riservatezza, responsabilità, proprietà intellettuale, conformità, limitazioni sullo sviluppo dell'AI e privacy. Questi rischi possono avere conseguenze dannose per le organizzazioni, tra cui danni alla reputazione e costose complicazioni legali.

Per mitigare questi rischi e stabilire un'AI affidabile, IBM watsonx emerge come soluzione consigliata. Offre dati resi accurati ed etichettati e modelli AI, garantendo trasparenza sulla proprietà e sull'origine. Risolve le preoccupazioni legate a pregiudizi e derive, fornendo un ulteriore livello di fiducia. IBM watsonx trova l'equilibrio tra innovazione e uso dell'AI responsabile. Inoltre, la collaborazione tra IBM e Hugging Face rafforza l'ecosistema dei modelli.

Sebbene watsonx offra maggiore fiducia e rigore, pochi modelli possono attualmente eguagliare l'ampia gamma di usi generici vista da ChatGPT e dalla famiglia GPT. Il campo dei modelli AI continua a evolversi e sono previsti continui miglioramenti. Per garantire risultati ottimali, è fondamentale capire come vengono valutati e addestrati i modelli. Questa conoscenza consente di prendere decisioni informate e permette alle organizzazioni di selezionare i modelli più adatti alle loro esigenze e ai loro standard qualitativi.

Adottando watsonx, le organizzazioni possono usufruire del potere dell'AI, mantenendo il controllo sui propri dati e garantendo la conformità agli standard etici e legali. Possono proteggere i propri dati, proteggere la proprietà intellettuale e promuovere la fiducia degli stakeholder, beneficiando al contempo di modelli resi accurati e di maggiore trasparenza. Mentre le aziende navigano nel regno dell'AI, è fondamentale procedere con cautela, esplorando soluzioni e dando priorità a un'AI affidabile.