DeepSeek-R1 ci ricorda l'importanza della governance dell'AI

I foundation model open source, come il molto discusso DeepSeek-R1, possono dare alle imprese un vantaggio nella creazione dei propri modelli personalizzati e quindi aumentare il ROI. Ma ciò che è stato meno discusso è il ruolo della governance dell'AI La governance è necessaria per tutte le forme di AI e ML, ma ci sono considerazioni specifiche per i modelli open source di fornitori terzi. Se vuoi che l'uso dell'AI da parte della tua organizzazione sia sicuro, trasparente e responsabile, la governance dell'AI è fondamentale.

Alla luce di questi sviluppi, discutiamo di come puoi utilizzare al meglio i modelli open source come quello di DeepSeek, identificando al contempo come la governance dell'AI può mitigare alcune delle principali sfide.

Uno studio IBM® ha rilevato che il 51% delle aziende che utilizzano strumenti open source ha ottenuto un ROI positivo, rispetto al solo 41% di quelle che non li utilizzano. Questi nuovi ed emergenti modelli open source più piccoli rafforzano la posizione di IBM sul futuro dell'AI aperta, che aiuterà le aziende a comprendere i benefici dell'AI in modo da bilanciare l'efficienza con fiducia e sicurezza. Mentre molti leader del settore tecnologico sono rimasti sorpresi e preoccupati dalle implicazioni di DeepSeek, IBM è da tempo sostenitrice di un approccio più aperto. "I modelli più piccoli ed efficienti possono fornire risultati concreti senza ricorrere a sistemi proprietari massicci", ha affermato di recente il CEO di IBM Arvind Krishna in un articolo pubblicato su Fortune.

Quando si utilizzano foundation model open source, la governance dell'AI è critica durante tutto il ciclo di vita del modello. Partendo da una valutazione del rischio, le organizzazioni devono prima decidere se il modello è sicuro da usare. Ciò che è considerato sicuro per un uso generico o individuale potrebbe non essere adatto ai casi d'uso aziendali.

Nel caso di DeepSeek-R1, le organizzazioni potrebbero decidere che l'auto-hosting del modello o l'esecuzione tramite un prodotto di studio AI come IBM watsonx.ai sia relativamente sicuro. Tuttavia, l'uso dell'app DeepSeek potrebbe presentare sfide per la sicurezza e i dati. Molti paesi hanno vietato l'uso dell'app DeepSeek per questo motivo.

Dopo l'approvazione dei modelli, i convalidatori possono aggiungerli a un inventario modello, che monitora l'utilizzo e le prestazioni del modello designando anche i casi d'uso a cui i modelli potrebbero essere applicati. Questa raccolta di modelli consente agli sviluppatori di AI di identificare i modelli disponibili e ai team di assicurazione, dati e sicurezza di monitorare dove i modelli vengono utilizzati.

Le schede informative dell'AI catturano i fatti del modello durante tutto il ciclo di vita e aumentano la trasparenza su ciò che si trova all'interno del modello e su come viene utilizzato. I fogli informativi dimostrano quale foundation model è stato utilizzato, compresi i parametri di prompt, i modelli e la valutazione.

Ci sono preoccupazioni riguardo alla sicurezza di alcuni modelli open source e alla facilità di prompt injection e jailbreaking per generare output dannosi. L'observability e i guardrail possono monitorare lo stato di salute del modello, l'accuratezza e la deriva, e limitare i discorsi d'odio, le bestemmie e altri contenuti dannosi. 

Gli svantaggi dell'AI senza una governance dell'AI sono immensi. Le organizzazioni che utilizzano l'AI per interagire con individui nell'UE devono rispettare l'EU AI Act. Il mancato rispetto potrebbe comportare una multa di 35 milioni di euro o pari al 7% del fatturato annuo, a seconda di quale valore sia maggiore.

I rischi per i brand, le reputazioni e la fiducia di clienti e partner delle aziende sono anch'essi significativi. Immagina se la tua organizzazione compromettesse i dati personali dei clienti, o insultasse o truffasse un cliente durante un'interazione. Ai clienti non importerà se la colpa originale era de tuo team o del foundation model: il tuo brand è danneggiato in entrambi i casi. Senza garanzie in atto, usare l'AI generativa per qualsiasi caso d'uso diventa troppo rischioso.

La governance dell'AI consente alle organizzazioni di gestire e mitigare una gamma di rischi e consente loro di utilizzare l'AI in modo sicuro e responsabile. Per supportare questi sforzi, IBM Research ha sviluppato l'atlante dei rischi dell'AI, uno strumento progettato per aiutare le organizzazioni a identificare e mappare i vari rischi dell'AI.

Un framework e una soluzione di governance dell'IA solidi sono fondamentali per la tua organizzazione, ma costruirne uno da zero è un processo lungo e costoso che può essere dannoso per il tuo ROI dell'AI. Per le organizzazioni che vogliono scalare la propria AI in modo efficiente, sicuro e responsabile, abbiamo creato watsonx.governance.

Una soluzione di governance dell'AI, come watsonx.governance, consente ai leader di decidere se e come consentire modelli come quello di DeepSeek nell'AI della loro organizzazione. Integrandosi con IBM Guardium AI Security, watsonx.governance può anche identificare istanze sconosciute del modello e gestire rischi specifici come prompt con dati PII, jailbreak e DDoS. Può governare qualsiasi modello ed essere applicato a qualsiasi cloud o eseguito on-premise. L'atlante dei rischi AI di IBM

DeepSeek è solo una di una serie di innovazioni open source e serve da promemoria del fatto che, rispetto alle tecnologie precedenti, ogni progresso dell'AI deve porre governance e sicurezza al centro della strategia della tua organizzazione. Non sono opzionali ma requisiti fondamentali.