Che cos'è l'Artificial Intelligence Act dell'Unione Europea (EU AI Act)?

Considerato il primo quadro normativo completo al mondo per l'AI, l'EU AI Act proibisce totalmente alcuni impieghi dell'AI e implementa rigidi requisiti di governance, gestione del rischio e trasparenza per gli altri utilizzi.

L'atto crea anche regole per modelli di AI generici, come il modello di base open source Granite di IBM e Llama 3 di Meta.

Le sanzioni possono variare da 7,5 milioni di EUR, o l'1,5% del fatturato annuo globale, a 35 milioni di EUR, o il 7% del fatturato annuo mondiale, a seconda del tipo di violazione della conformità.

Nello stesso modo in cui il Regolamento generale sulla protezione dei dati (GDPR) dell'UE può ispirare altre nazioni ad adottare leggi sulla privacy dei dati, gli esperti prevedono che l'AI Act dell'UE stimolerà lo sviluppo di standard di governance ed etica dell'AI in tutto il mondo.

L'EU AI Act si applica a più operatori della catena del valore dell'AI, come fornitori, utilizzatori, importatori, distributori, produttori e rappresentanti autorizzati). Degne di menzione sono le definizioni di fornitori, utilizzatori e importatori ai sensi dell'EU AI Act.

I fornitori sono persone o organizzazioni che sviluppano un sistema AI o un modello AI per scopi generali (GPAI), o lo fanno sviluppare per loro conto, per poi immetterlo sul mercato o metterlo in servizio con il loro nome o brand.

La norma definisce in modo ampio un sistema di AI come un sistema che può, con un certo livello di autonomia, elaborare input per dedurre come generare output (ad esempio, previsioni, raccomandazioni, decisioni, contenuti) che possono influenzare ambienti fisici o virtuali. Definisce le GPAI come modelli AI che mostrano una generalità significativa, sono in grado di eseguire con competenza un'ampia gamma di compiti distinti e possono essere integrati in una varietà di sistemi o applicazioni di AI a valle. Ad esempio, un modello di fondazione è una GPAI; un chatbot o uno strumento di AI generativa costruito su quel modello sarebbe un sistema di AI.

Gli utilizzatori sono persone o organizzazioni che utilizzano i sistemi AI. Ad esempio, un'organizzazione che utilizza un chatbot AI di terze parti per gestire le richieste di servizio clienti sarebbe un utilizzatore.

Gli importatori sono persone e organizzazioni situate o stabilite nell'UE che portano sul mercato dell'UE i sistemi AI di una persona o di un'azienda esterna all'UE.

L'EU AI Act si applica anche ai fornitori e agli utilizzatori al di fuori dell'UE se la loro AI o i suoi output sono utilizzati nell'UE.

Ad esempio, supponiamo che un'azienda con sede nella UE invii i dati a un fornitore di AI esterno all'UE, che utilizza l'AI per elaborare i dati e poi invia nuovamente i dati elaborati all'azienda in territorio UE perché possa utilizzarli. Poiché l'output del sistema AI del fornitore viene utilizzato nell'UE, il fornitore è tenuto al rispetto dell'EU AI Act.

I fornitori extra UE che offrono servizi AI nell'UE devono designare rappresentanti autorizzati nell'UE per coordinare le attività di conformità per loro conto.

Sebbene la legge abbia una portata molto ampia, alcuni impieghi dell'AI rimangono esenti. Gli usi puramente personali dell'AI e i modelli e sistemi AI utilizzati solo per la ricerca e lo sviluppo scientifici sono esempi di usi esenti.

L'EU AI Act regola i sistemi AI in base al livello di rischio. Per rischio qui si fa riferimento alla probabilità e alla gravità del potenziale danno. Alcune delle disposizioni più importanti includono:

• il divieto di alcune pratiche di AI che si ritiene comportino rischi inaccettabili,
  
  
• standard per lo sviluppo e l'implementazione di alcuni sistemi AI ad alto rischio,
  
  

I sistemi AI che non rientrano in una delle categorie di rischio dell'EU AI Act non sono soggetti ai requisiti previsti dalla norma (sono spesso considerati come categoria di "rischio minimo"), anche se alcuni potrebbero dover soddisfare obblighi di trasparenza e rispettare altre leggi esistenti. Tra gli esempi troviamo i filtri antispam per le e-mail e nei videogiochi.Molti usi comuni dell'AI oggi rientrano in questa categoria. 

Vale la pena notare che molti dei dettagli più fini dell'EU AI Act relativi all'implementazione sono ancora in fase di definizione.Ad esempio, la legge rileva che la Commissione europea pubblicherà ulteriori linee guida su requisiti come piani di monitoraggio post-commercializzazione e riepiloghi dei dati di addestramento.

L'EU AI Act elenca esplicitamente alcune pratiche di AI vietate che si ritiene rappresentino un livello di rischio inaccettabile. Ad esempio, lo sviluppo o l'utilizzo di un sistema AI che manipoli intenzionalmente le persone, spingendole a prendere decisioni pericolose che altrimenti non prenderebbero, è considerato un rischio inaccettabile per gli utenti e costituisce una pratica AI proibita.

La Commissione europea può modificare l'elenco delle prassi vietate, pertanto è possibile che in futuro siano oggetto di divieto altri utilizzi dell'AI.

 Un elenco parziale degli utilizzi AI proibiti al momento della pubblicazione di questo articolo include:

• Sistemi di punteggio sociale, ovvero sistemi che valutano o classificano gli individui in base al loro comportamento sociale, che portano a un trattamento dannoso o sfavorevole in contesti non correlati alla raccolta dei dati originali e ingiustificati o sproporzionati rispetto alla gravità del comportamento
  
  
  
• Sistemi di riconoscimento delle emozioni sul lavoro e negli istituti di istruzione, tranne quando questi strumenti sono utilizzati per scopi medici o di sicurezza
  
  
• L'AI viene utilizzata per sfruttare le vulnerabilità delle persone (ad esempio, quelle dovute all'età o alla disabilità)
  
  
• Scraping non mirato di immagini facciali prese da Internet o da televisione a circuito chiuso (CCTV) per database di riconoscimento facciale
  
  
• Sistemi di identificazione biometrica che identificano le persone in base alle caratteristiche sensibili
  
  
• Applicazioni di politiche predittive specifiche
  
  
• L'uso da parte delle forze dell'ordine di sistemi di identificazione biometrica remota in tempo reale in pubblico (a meno che non si applichi un'eccezione, e in genere è necessaria l'autorizzazione preventiva da parte di un'autorità giudiziaria o amministrativa indipendente).

I sistemi AI sono considerati ad alto rischio ai sensi dell'EU AI Act, se sono un prodotto (o un suo componente di sicurezza) regolamentato da specifiche leggi dell'UE a cui fa riferimento il regolamento, come le norme sulla sicurezza dei giocattoli e sui dispositivi medico-diagnostici in vitro.

La legge elenca anche gli usi specifici generalmente considerati ad alto rischio, compresi i sistemi AI utilizzati:

• in ambienti di lavoro, come quelli utilizzati per assumere candidati, valutare i candidati e prendere decisioni di promozione
  
  
• in alcuni dispositivi medici
  
  
• in determinati contesti di istruzione e formazione professionale
  
  
• nei processi giudiziari e democratici, come i sistemi destinati ad influenzare l'esito delle elezioni
  
  
• per determinare l'accesso a servizi privati o pubblici essenziali, inclusi i sistemi che valutano l'idoneità ai benefici pubblici e valutano i punteggi di credito.
  
  
• nella gestione delle infrastrutture critiche (per esempio, forniture di acqua, gas, elettricità, ecc.)
  
  
• in qualsiasi sistema di identificazione biometrica che non sia vietato, ad eccezione dei sistemi il cui unico scopo è verificare l'identità di una persona (ad esempio, l'utilizzo di uno scanner di impronte digitali per concedere a qualcuno l'accesso a un'app bancaria).

Per i sistemi inclusi in questo elenco, può essere disponibile un'eccezione se il sistema AI non rappresenta una minaccia significativa per la salute, la sicurezza o i diritti delle persone.L'atto specifica diversi criteri che devono essere soddisfatti, tutti o in parte, prima che possa essere attivata un'eccezione (ad esempio, quando il sistema AI è destinato a svolgere un compito procedurale ristretto).Se fa affidamento su questa eccezione, il fornitore deve documentare la sua valutazione che il sistema non sia ad alto rischio, e le autorità di regolamentazione possono prendere visione tale valutazione.L'eccezione non è disponibile per i sistemi AI che elaborano automaticamente i dati personali per valutare o prevedere alcuni aspetti della vita di una persona, come le sue preferenze di prodotto (profilazione), che sono sempre considerati ad alto rischio.

Come nel caso dell'elenco delle pratiche AI vietate, la Commissione europea potrebbe, in futuro, aggiornare l'elenco dei sistemi AI ad alto rischio.

I sistemi AI ad alto rischio devono essere conformi a requisiti specifici. Ecco alcuni esempi:

• Implementare un sistema di gestione del rischio continuo per monitorare l'AI durante tutto il suo ciclo di vita. Per esempio, i fornitori sono tenuti a mitigare i rischi ragionevolmente prevedibili posti dall'uso previsto dei loro sistemi.
  
  
• Adottare rigorose pratiche di governance dei dati per garantire che i dati di formazione, convalida e test soddisfino specifici criteri di qualità. Ad esempio, è necessario adottare una governance riguardante il processo di raccolta e origine dei dati, nonché misure per prevenire e mitigare i pregiudizi.
  
  
• Mantenere una documentazione tecnica completa con informazioni precise, tra cui specifiche di progettazione del sistema, capacità, limitazioni e impegni di conformità normativa.

Esistono ulteriori obblighi di trasparenza per tipi specifici di AI. Ad esempio:

• I sistemi AI destinati a interagire direttamente con le persone devono essere progettati per informare gli utenti che stanno interagendo con un sistema AI, a meno che ciò non sia ovvio considerando il contesto. Un chatbot, ad esempio, deve essere progettato per avvisare gli utenti di essere un chatbot.
   
  
• I sistemi AI che generano testi, immagini o altri contenuti devono utilizzare formati leggibili dalle macchine per contrassegnare gli output come generati o manipolati dall'AI. Ciò include, ad esempio, l'AI che genera deepfake, immagini o video alterati per mostrare qualcuno che fa o dice qualcosa che non ha fatto o detto.

Ecco alcuni obblighi per gli operatori fondamentali dei sistemi AI ad alto rischio nella catena del valore dell'AI (fornitori e utilizzatori).

I fornitori di sistemi AI ad alto rischio devono rispettare requisiti tra cui:

• Garantire che i sistemi AI ad alto rischio siano conformi ai requisiti appositamente delineati nella legge, ad esempio implementando un sistema di gestione continua del rischio.
  
  
• Avere un sistema di gestione della qualità in atto.
  
  
• Implementare piani di monitoraggio post-commercializzazione per controllare le prestazioni del sistema AI e valutarne la continua conformità durante il ciclo di vita del sistema.

Gli utilizzatori di sistemi AI ad alto rischio hanno diversi obblighi, tra cui:

• .
• Adottare misure tecniche e organizzative appropriate per garantire che utilizzino tali sistemi in conformità con le relative istruzioni per l'uso
  
  
• .
• Mantenere registri del sistema AI generati automaticamente, nella misura in cui tali registri sono sotto il loro controllo, per un periodo specificato
  
  
• .
• Per gli utilizzatori che fanno uso di sistemi AI ad alto rischio per fornire determinati servizi essenziali (come enti governativi o organizzazioni private che forniscono servizi pubblici), effettuare valutazioni dell'impatto sui diritti fondamentali prima di utilizzare determinati sistemi AI ad alto rischio per la prima volta.

L'EU AI Act crea norme separate per i modelli AI per scopi generali (GPAI). I fornitori di modelli GPAI avranno alcuni obblighi come:

• .
• Stabilire politiche per rispettare le leggi sul diritto d’autore dell'UE.
  
  
• -
• Scrivere e rendere pubblicamente disponibili riepiloghi dettagliati dei set di dati di addestramento.

Se un modello GPAI è classificato come avente un rischio sistemico, i fornitori avranno obblighi aggiuntivi. Il rischio sistemico è un rischio specifico delle funzionalità ad alto impatto dei modelli GPAI che hanno un impatto significativo sul mercato dell'UE a causa della loro portata o degli effetti negativi reali o ragionevolmente prevedibili sulla salute pubblica, la sicurezza, la pubblica sicurezza, i diritti fondamentali o la società nel suo complesso, che possono essere propagati su larga scala lungo tutta la catena del valore. La legge utilizza le risorse di addestramento come uno dei criteri per individuare il rischio sistemico. Se la quantità cumulativa di potenza di calcolo utilizzata per addestrare un modello è superiore a 10^25 operazioni in virgola mobile (FLOP, Floating Point Operation), si ritiene che abbia funzionalità ad alto impatto e rappresenti un rischio sistemico. La Commissione europea può inoltre classificare un modello come avente un rischio sistemico.

I fornitori di modelli GPAI che presentano un rischio sistemico, compresi i modelli open source gratuiti, devono soddisfare alcuni obblighi aggiuntivi:

• .
• Documentare e segnalare incidenti gravi all'Ufficio europeo per l'AI e alle autorità di regolamentazione nazionali pertinenti.
  
  
• .
• Implementare una cybersecurity adeguata per proteggere il modello e la sua infrastruttura fisica.

In caso di mancata conformità alle pratiche proibite AI, le organizzazioni possono essere multate fino a 35.000.000 € o al 7% del fatturato annuo globale, a seconda di quale sia l'importo più elevato.

Per la maggior parte delle altre violazioni, comprese la mancata conformità ai requisiti per i sistemi AI ad alto rischio, le organizzazioni possono essere multate fino a 15.000.000 € o al 3% del fatturato annuale globale, a seconda di quale sia il valore più alto.

Fornire informazioni errate, incomplete o fuorvianti alle autorità può comportare multe per le organizzazioni fino a 7.500.000 € o l'1% del fatturato annuo globale, a seconda di quale sia l'importo più elevato.

In particolare, l'EU AI Act prevede regole diverse per multare le startup e altre piccole e medie organizzazioni. Per queste aziende, la multa è il più basso dei due importi possibili specificati sopra.

Il regolamento è entrato in vigore il 1° agosto 2024, e diverse disposizioni della legge sono entrate in vigore in più fasi. Alcune delle date più importanti di questo percorso includono:

• Dal 2 febbraio 2025, entreranno in vigore i divieti sulle pratiche di AI vietate.
  
  
• Dal 2 agosto 2025, le regole per l'AI per scopi generali entreranno in vigore per i nuovi modelli GPAI. I fornitori di modelli GPAI immessi sul mercato prima del 2 agosto 2025 avranno tempo fino al 2 agosto 2027 per adeguarsi.
  
  
• Dal 2 agosto 2026, entreranno in vigore le regole per i sistemi AI a rischio elevato.
  
  
• Dal 2 agosto 2027, si applicheranno le regole per i sistemi AI che sono prodotti o componenti di sicurezza regolamentati da specifiche leggi dell'UE.