Come l'AI generativa sta ampliando la superficie di attacco delle minacce interne

Con l'aumento dell'adozione dell'AI generativa (gen AI), cresce anche il rischio di minacce interne. Questo mette ancora più sotto pressione le aziende che devono ripensare le politiche di sicurezza e riservatezza.

In pochi anni, l'intelligenza artificiale (AI) ha cambiato radicalmente il mondo del lavoro. Il 61% dei lavoratori della conoscenza utilizza ormai gli strumenti di gen AI, in particolare ChatGPT di OpenAI, nelle proprie attività quotidiane. Allo stesso tempo, i leader aziendali, spesso spinti in parte dalla paura di perdersi qualcosa, stanno investendo miliardi in strumenti alimentati dalla gen AI. Non sono solo i chatbot in cui investono, ma anche sintetizzatori di immagini, software di clonazione vocale e persino tecnologie video deepfake per creare avatar virtuali.

Siamo ancora lontani dal momento in cui il gen AI diventerà indistinguibile dagli esseri umani. Se (o, per meglio dire, quando) ciò accadrà, allora i rischi etici e cibernetici che ne derivano continueranno a crescere. Del resto, quando diventa impossibile capire se qualcuno o qualcosa è reale, il rischio che le persone vengano inconsapevolmente manipolate dalle macchine aumenta.

Gran parte della conversazione sulla sicurezza nell'era di gen AI riguarda le sue implicazioni nel social engineering e altre minacce esterne. Tuttavia, i professionisti della sicurezza informatica non devono sottovalutare come la tecnologia possa espandere notevolmente anche la superficie di attacco delle minacce interne.

Data la fretta di adottare gli strumenti di gen AI, molte aziende si sono già trovate nei guai. Solo l'anno scorso, Samsung ha vietato l'uso degli strumenti gen AI sul posto di lavoro dopo che i dipendenti sono stati sospettati di condividere dati sensibili in conversazioni con ChatGPT di OpenAI.

Per impostazione predefinita, OpenAI registra e archivia tutte le conversazioni, potenzialmente per l'addestramento delle future generazioni dei modelli linguistici di grandi dimensioni (LLM). Per questo motivo, le informazioni sensibili, come i segreti aziendali, potrebbero potenzialmente riemergere in risposta a un prompt dell'utente. A dicembre, i ricercatori che testavano la suscettibilità di ChatGPT alla fuga di dati hanno scoperto una tecnica semplice per estrarre i dati di addestramento (PDF) dell'LLM, dimostrando così il concetto. OpenAI avrà anche corretto questa vulnerabilità da allora, ma è improbabile che sarà l'ultima.

Con l'uso non autorizzato della gen AI nelle aziende in rapida crescita, l'IT deve intervenire per cercare il giusto equilibrio tra innovazione e rischio informatico. I team di sicurezza potrebbero già conoscere il termine shadow IT, ma la nuova minaccia in questione è la shadow AI, ovvero l'uso dell'AI al di fuori della governance dell'organizzazione. Per evitare che ciò accada, i team IT devono rivedere le loro politiche e adottare ogni possibile passo per rafforzare l'uso responsabile di questi strumenti.

Un modo ovvio per affrontare queste minacce può essere quello di costruire una soluzione di AI proprietaria e personalizzata per lo specifico caso d'uso aziendale. Le aziende possono costruire un modello da zero o, più probabilmente, partire con un modello di fondazione open source. Nessuna delle due opzioni è priva di rischi. Tuttavia, sebbene i rischi associati ai modelli open-source tendano a essere maggiori, quelli relativi ai sistemi di AI proprietari sono un po' più sfumati, e altrettanto seri.

Man mano che le funzioni basate sull'AI guadagnano piede nelle applicazioni aziendali, diventano anche un bersaglio più appetibile per attori dannosi, inclusi quelli interni. Il data poisoning, in cui gli aggressori manomettono i dati utilizzati per addestrare i modelli AI, ne è un esempio. Anche le minacce interne sono estremamente reali, soprattutto se i dati in questione sono ampiamente accessibili in tutta l'organizzazione, come spesso accade nelle chat di servizio clienti, nelle descrizioni dei prodotti o nelle linee guida del brand. Se utilizzi tali dati per addestrare un modello AI proprietario, devi assicurarti che la sua integrità non sia stata compromessa, né intenzionalmente né involontariamente.

Anche gli insider malevoli che hanno accesso ai modelli AI proprietari potrebbero tentare di sottoporli a reverse engineering. Ad esempio, un insider con le giuste conoscenze potrebbe riuscire a bypassare le audit trace, poiché i sistemi proprietari spesso dispongono di soluzioni personalizzate di registrazione e monitoraggio che potrebbero non essere sicure come quelle tradizionali.

Lo sfruttamento delle vulnerabilità dei modelli rappresenta un rischio serio. Mentre i modelli open-source possono essere rapidamente aggiornati tramite il coinvolgimento della community, lo stesso non si può dire dei difetti nascosti di un modello proprietario. Per mitigare questi rischi, è fondamentale che i leader IT proteggano le loro supply chain di software AI. Trasparenza e supervisione sono gli unici modi per garantire che l'innovazione nell'AI non aggiunga rischi inaccettabili per la tua azienda.