Sblocca l'AI affidabile con governance e sicurezza integrate
Annuncio del lancio di nuove funzionalità in Guardium AI Security, tra cui un'integrazione migliorata pronta all'uso con watsonx.governance, che aiuta le aziende a mantenere l'agentic AI e altri sistemi di AI generativa sicuri e responsabili su larga scala per un'AI affidabile.
Le organizzazioni stanno cercando di adottare l'AI per migliorare la produttività dei dipendenti, ma hanno dubbi sulla fiducia nella loro AI e sul passaggio dei loro esperimenti AI dalla fase di test a quella di produzione. L'AI sta inoltre aumentando la superficie di attacco e creando minacce, rischi e vulnerabilità uniche che potrebbero portare alla perdita del controllo. Le organizzazioni devono gestire, proteggere e governare adeguatamente la propria AI per poter disporre di sistemi AI di cui potersi fidare.
Secondo un sondaggio del 2024 tra i vertici aziendali dell'IBM Institute for Business Value, l'82% dei rispondenti afferma che un'AI sicura e affidabile è essenziale per il successo della propria attività, eppure solo il 24% degli attuali progetti di AI generativa è protetto. Inoltre, poiché le organizzazioni si affrettano a implementare gli agenti AI per ottenere risultati aziendali migliori, i rischi risultano ancora più amplificati. In effetti, Gartner prevede che "entro il 2028, il 25% delle violazioni aziendali sarà ricondotto all'abuso di agenti AI, da parte di attori malintenzionati interni sia che esterni".1
IBM® Guardium AI Security consente alle organizzazioni di scoprire la shadow AI, inclusi gli agenti AI, proteggere tutti i modelli AI e i casi d'uso, ottenere la protezione in tempo reale dai prompt dannosi e allineare i team su un insieme comune di metriche per un'AI sicura e affidabile.
Attraverso una collaborazione con AllTrue.ai, le nuove funzionalità di IBM per Guardium AI Security includono la capacità di rilevare continuamente nuovi casi d'uso dell'AI in ambienti cloud, repository di codice e sistemi integrati, garantendo piena visibilità e protezione in un ecosistema AI sempre più decentralizzato. Una volta identificati, IBM Guardium AI Security li inserisce in watsonx.governance, e vengono applicati i controlli appropriati di rischio e conformità.
L'AI generativa continuerà ad evolversi, introducendo nuove funzionalità e rischi. Le aziende che investono ora in un solido framework di sicurezza e governance saranno meglio posizionate per adattarsi a questi cambiamenti e più resilienti di fronte a panorami in continua evoluzione.
Un approccio strettamente integrato alla sicurezza e alla governance dell'AI è fondamentale. I team di sicurezza e governance devono operare in sincronia con:
- Team di sicurezza per la criticità aziendale: i team di sicurezza dovrebbero dare priorità alla protezione dei progetti di AI in base alla loro importanza per l'organizzazione, assicurando che siano predisposte solide misure di protezione per le applicazioni ad alto impatto.
- Team di governance per il livello di sicurezza: i team di governance dovrebbero avere visibilità sui rischi e sulle mitigazioni di sicurezza associati a ciascuna distribuzione dell'AI, consentendo una supervisione informata della conformità e delle considerazioni etiche.
Adottando queste pratiche integrate, le aziende possono massimizzare il potenziale di trasformazione dell'AI generativa salvaguardando al contempo dati, modelli e reputazione. Con una strategia ben eseguita, l'organizzazione può innovare con sicurezza, stare al passo con i requisiti di conformità e creare fiducia con i stakeholder in un futuro basato sull'AI.
L'integrazione pronta all'uso tra Guardium AI Security e watsonx.governance fornisce una soluzione di rischio e governance reale per i team eterogenei per esaminare un unico set di metriche per i rischi aziendali e di sicurezza per l'AI affidabile.
Guardium AI Security offre una soluzione affidabile di livello enterprise per gestire la sicurezza delle risorse AI e riunire i team di sicurezza e governance su un unico set di metriche, per un'AI sicura e affidabile. Consente alle organizzazioni di:
- Ottenere visibilità completa: il monitoraggio automatizzato e continuo per i modelli AI nel tuo cloud, i repository di codice e l'AI integrata ti consentono di identificare tutti i casi d'uso dell'AI, inclusa la capacità di rilevare shadow AI e agenti AI.
- Proteggere la tua AI: rileva le vulnerabilità e le configurazioni errate della sicurezza utilizzando AI SPM, con penetration test automatizzati, nei casi d'uso dell'AI generativa e mappali su un framework di valutazione leader di settore
- Garantire un utilizzo sicuro dell'AI: scansiona e proteggi diversi prompt di input o prompt di output per applicazioni AI. Personalizza le policy di sicurezza specifiche, come l'iniezione di prompt, l'esposizione di informazioni personali, la perdita di dati e altro ancora per un'AI sicura.
Guardium ti aiuta a proteggere la tua AI durante tutto il suo ciclo di vita, dalla scoperta degli asset AI alla valutazione delle vulnerabilità e delle configurazioni errate, garantendo un utilizzo sicuro e gestendo la conformità. Consente di proteggere i modelli creati localmente, utilizzati sul cloud o consumati, offre la possibilità di eseguire test di penetrazione automatizzati, scansionare prompt di input e output con firewall AI e gestire la conformità su 12 framework.
Un'integrazione pronta all'uso con IBM® watsonx.governance fornisce una vera soluzione di rischio e governance per team eterogenei per esaminare un singolo set di metriche per i rischi aziendali e di sicurezza. Quando la shadow AI viene rilevata da Guardium AI Security, viene inserita in watsonx.governance, allineata con il caso d'uso appropriato, e vengono applicati i controlli di rischio e conformità appropriati. Ora i team di governance e sicurezza esaminano lo stesso inventario AI e lo stesso rischio AI per un'AI affidabile.
Prova il primo software dei settori che riunisce i team di sicurezza e governance dell'AI per fornire una visione unificata della situazione di rischio delle aziende.
1 Comunicato stampa Gartner, Gartner Unveils Top Predictions for IT Organizations and Users in 2025 and Beyond, 22 ottobre 2024.
GARTNER è un marchio registrato e un marchio di servizio di Gartner, Inc. e/o delle sue affiliate negli Stati Uniti e a livello internazionale ed è usato qui con l'autorizzazione. Tutti i diritti riservati.