Come definire modelli di business AI+ sicuri

L’adozione dell’AI nelle aziende è raddoppiata negli ultimi cinque anni, e i CEO oggi affermano di subire una forte pressione da parte di investitori, creditori e finanziatori per accelerare l’adozione dell’AI generativa. Ciò è in gran parte dovuto alla consapevolezza che abbiamo superato una nuova soglia per quanto riguarda la maturità dell’AI, introducendo un nuovo e più ampio spettro di possibilità, risultati e benefici per la società nel suo insieme.

Molte aziende sono state restie a puntare tutto sull’AI, poiché alcune incognite all’interno della tecnologia erodono la fiducia. E la sicurezza è solitamente considerata una di queste incognite. Come si proteggono i modelli AI? Come è possibile garantire che questa tecnologia trasformativa sia protetta dagli attacchi informatici, siano essi sotto forma di furto, manipolazione e fuga di dati o di attacchi di evasione, avvelenamento, estrazione e inferenza?

Lo sprint globale per stabilire una leadership nell’AI (sia tra i governi, i mercati o i settori aziendali) ha stimolato la pressione e l’urgenza di rispondere a questa domanda. La sfida nel proteggere i modelli AI deriva non solo dalla natura dinamica e dal volume dei dati sottostanti, ma anche dalla superficie di attacco estesa che i modelli AI introducono: una superficie di attacco nuova per tutti. In parole povere, per manipolare un modello AI o i suoi risultati per scopi dannosi, ci sono molti potenziali punti di ingresso che gli avversari possono tentare di compromettere, molti dei quali stiamo ancora scoprendo.

Tuttavia, questa sfida non è senza soluzione. Anzi, stiamo vivendo il più grande movimento di crowdsourcing per la sicurezza dell’AI che qualsiasi tecnologia abbia mai istigato. L’amministrazione Biden-Harris, il DHS CISA e l’AI Act dell’Unione Europea hanno mobilitato la comunità della ricerca, degli sviluppatori e della sicurezza per lavorare collettivamente per promuovere sicurezza, privacy e conformità per AI.

È importante capire che la sicurezza per l'AI è più ampia della sicurezza dell'AI stessa. In altre parole, per proteggere l'AI, non ci limitiamo solo ai modelli e ai dati. Dobbiamo anche considerare lo stack di applicazione aziendale in cui un'AI è integrata come meccanismo difensivo, estendendo le protezioni per l'AI al suo interno. Allo stesso modo, poiché l'infrastruttura di un'organizzazione può agire da vettore di minaccia capace di fornire agli avversari l'accesso ai modelli AI, dobbiamo garantire che l'ambiente più ampio sia protetto.

Per comprendere i diversi mezzi con cui dobbiamo mettere in sicurezza l'AI (dati, modelli, applicazioni e l'intero processo) dobbiamo essere chiari non solo su come funziona l'AI, ma anche su come viene distribuita l'AI in vari ambienti.

Il ruolo dell'igiene di uno stack di applicazioni aziendali

L'infrastruttura di un'organizzazione è il primo livello di difesa contro le minacce ai modelli AI. Garantire che adeguati controlli di sicurezza e privacy siano integrati nell'infrastruttura IT più ampia che circonda l'AI è fondamentale. Si tratta di un ambito in cui il settore vanta già un vantaggio significativo: disponiamo del know-how e delle competenze necessarie per stabilire standard ottimali di sicurezza, privacy e conformità negli ambienti complessi e distribuiti di oggi. È importante riconoscere anche questa missione quotidiana come fattore abilitante per un'AI sicura.

Ad esempio, l'accesso sicuro agli utenti, ai modelli e ai dati è fondamentale. Dobbiamo utilizzare i controlli esistenti ed estendere questa pratica alla sicurezza dei percorsi verso i modelli AI. In modo analogo, l'AI porta una nuova dimensione di visibilità nelle applicazioni aziendali, il che giustifica l'estensione delle funzionalità di rilevamento e risposta alle minacce alle applicazioni AI.

Per prevenire lo sfruttamento, sono fondamentali standard di sicurezza delle poste in gioco, come l'impiego di metodi di trasmissione sicuri lungo tutta la supply chain, l'istituzione di rigorosi controlli di accesso e protezioni dell'infrastruttura, nonché il rafforzamento dell'igiene e dei controlli delle macchine virtuali e dei container. Sono tutte aree chiave per prevenire lo sfruttamento. Esaminando la nostra strategia di sicurezza aziendale, dobbiamo riflettere quegli stessi protocolli, politiche, igiene e standard nel profilo AI dell'organizzazione.

Utilizzo e dati di formazione sottostanti

Anche se i requisiti di gestione del ciclo di vita dell'AI stanno ancora diventando chiari, le organizzazioni possono utilizzare i guardrail esistenti per contribuire a proteggere il percorso dell'AI. Ad esempio, trasparenza e spiegabilità sono essenziali per prevenire bias, allucinazioni e poisoning, motivo per cui chi adotta l'AI deve stabilire protocolli per controllare i workflow, i dati di addestramento e gli output e verificare l'accuratezza e le prestazioni dei modelli. A questo si aggiunge il fatto che l'origine e il processo di preparazione dei dati dovrebbero essere documentati per garantire fiducia e trasparenza. Questo contesto e questa chiarezza aiutano a rilevare meglio le anomalie e le difformità che potrebbero presentarsi nei dati in una fase iniziale.

La sicurezza deve essere presente in tutte le fasi dello sviluppo e della distribuzione/implementazione dell'AI - questo include l'applicazione delle protezioni della privacy e delle misure di sicurezza nelle fasi di formazione e di test dei dati. Poiché i modelli AI imparano continuamente dai loro dati sottostanti, è importante tenere conto di questo dinamismo e riconoscere i potenziali rischi nell'accuratezza dei dati, integrando anche i passaggi di test e validazione durante tutto il ciclo di vita dei dati. Le tecniche di prevenzione della perdita di dati sono essenziali anche qui per rilevare e prevenire SPI, PII e la fuga di dati regolamentata tramite prompt e API.

Governance durante tutto il ciclo di vita dell'AI

Proteggere l'AI richiede un approccio integrato alla costruzione, implementare e gestione dei progetti di AI. Questo significa costruire un'AI con governance, trasparenza ed etica che supportano le esigenze normative. Man mano che le organizzazioni esplorano l'adozione dell'AI, devono valutare le politiche e le pratiche dei fornitori open source riguardo ai loro modelli e ai set di dati, nonché lo stato di maturità delle piattaforme AI. Questo deve anche tenere conto dell'uso e della conservazione dei dati, cioè sapere esattamente come, dove e quando i dati saranno utilizzati, e limitando la durata della data storage per ridurre le preoccupazioni sulla privacy e i rischi di sicurezza. A ciò si aggiunge il fatto che i team di procurement dovrebbero essere coinvolti per garantire l'allineamento con le attuali politiche e linee guida aziendali sulla privacy, sicurezza e conformità, che dovrebbero costituire la base di qualsiasi politica di AI formulata.

La sicurezza del ciclo di vita dell'AI include il miglioramento degli attuali processi DevSecOps per includere l'ML, adottando i processi durante la creazione di integrazioni e la distribuzione di modelli e applicazioni AI. Bisogna prestare particolare attenzione alla gestione dei modelli AI e dei loro dati di addestramento: addestrare l'AI pre-distribuzione e gestire le versioni in modo continuo è fondamentale per gestire l'integrità del sistema, così come l'addestramento continuo. È anche importante monitorare i prompt e le persone che accedono ai modelli AI.

Questa non è affatto una guida completa per proteggere l'AI, ma l'intento qui è correggere i fraintendimenti riguardo alla sicurezza dell'AI. La realtà è che abbiamo già a disposizione strumenti, protocolli e strategie sostanziali per un'implementazione sicura dell'AI.

Man mano che l'adozione dell'AI si espande e le innovazioni si evolvono, matureranno anche le linee guida sulla sicurezza, come nel caso di ogni tecnologia che è stata incorporata nel tessuto di un'azienda nel corso degli anni. Di seguito, condividiamo alcune best practice di IBM per aiutare le organizzazioni a prepararsi per l'implementazione sicura dell'AI nei loro ambienti:

1. Sfrutta l'AI affidabile valutando le politiche e le pratiche dei fornitori.
2. Consentire l'accesso sicuro a utenti, modelli e dati.
3. Proteggere i modelli AI, i dati e l'infrastruttura dagli attacchi avversari.
4. Implementare la protezione della privacy dei dati nelle fasi di addestramento, test e operazioni.
5. Conduci la modellazione delle minacce e le pratiche di codifica sicura nel ciclo di vita dello sviluppo dell'AI.
6. Eseguire il rilevamento e la risposta alle minacce per le applicazioni e l'infrastruttura AI.
7. Valutare e decidere la maturità dell'AI attraverso il framework IBM per l'AI.