Perché la sicurezza dei dati è fondamentale per l'AI
I dati sono il nuovo petrolio. Alimenta la nostra economia e guida la nuova tecnologia, in particolare l'AI generativa. Tuttavia, affinché l'AI venga ampiamente adottata, deve essere affidabile e sicura.
Come mostra il report Cost of a Data Breach di IBM, le interruzioni aziendali spingono i costi di una violazione dei dati e le sanzioni normative a nuove altezze, con il costo medio di una violazione dei dati che raggiunge 4,88 milioni di dollari.
Tuttavia, secondo un sondaggio condotto da uno studio dell'IBM Institute for Business Value (IBV) sulla cybersecurity e sulla gen AI, oltre il 94% dei leader aziendali ritiene importante proteggere l'IA, ma solo il 24% afferma che i loro progetti di AI integreranno una componente di cybersecurity entro i prossimi sei mesi.
Questo rende molte aziende vulnerabili, poiché la gen AI comporta anche nuovi rischi, come perdite di dati, avvelenamento dei dati e attacchi di prompt injection. Può anche essere difficile per le aziende controllare chi ha accesso ai propri dati, osserva Scott McCarthy, IBM Global Managing Partner per i servizi di cybersecurity.
"È importante assicurarsi che siano in atto dei controlli per evitare che i dati aziendali e dei clienti vengano divulgati", spiega McCarthy.
Per tutelare i loro dati e proteggere la loro AI, le aziende devono stabilire la loro governance dell'AI e proteggere la loro infrastruttura: i loro dati, i loro modelli e l'utilizzo dei loro modelli. Questo è il framework di IBM per proteggere l'AI generativa, un framework che può essere applicato in altri ambienti, incluso Einstein di Salesforce, un insieme di strumenti di AI per CRM.
Ecco 3 passaggi che le aziende possono intraprendere per iniziare questo processo.
Il tuo team sarebbe in grado di rilevare in tempo il prossimo zero-day?
Unisciti ai leader della sicurezza che si affidano alla newsletter Think per ricevere notizie selezionate su AI, cybersecurity, dati e automazione. Impara velocemente da tutorial e articoli informativi consegnati direttamente nella tua casella di posta. Leggi l'Informativa sulla privacy IBM.
Molti team innovano rapidamente con gen AI, ma questo può creare quello che è noto come shadow IT. "Dobbiamo garantire che anche le aziende abbiano visibilità. Ci sono nuovi strumenti come la gestione del livello di sicurezza dei dati e la gestione del livello di sicurezza dell'AI che ci aiuteranno in questo senso", afferma McCarthy.
Che si lavori con dati dei clienti o con i dati aziendali, i diversi tipi di dati avranno implicazioni diverse e potranno essere soggetti a politiche e procedure diverse.
Applicare i controlli appropriati a quei dati in base al limite di classificazione, come i dati dei clienti, il censimento dei dati aziendali o dati pubblici disponibili, per aiutare a garantire che le persone giuste abbiano accesso ai dati giusti al momento giusto.
In conclusione, "I team di sicurezza devono essere facilitatori aziendali, non solo custodi delle politiche e delle procedure di sicurezza", ritiene McCarthy.