Che cos'è l'etica dell'AI?

Ecco alcuni esempi di problemi etici nell'AI:

• Responsabilità dei dati e privacy
• Equità
• Attendibilità
• Affidabilità
• Trasparenza
• Sostenibilità ambientale
• Inclusione
• Capacità morale
• Allineamento dei valori
• Responsabilità
• Fiducia
• Uso improprio della tecnologia

Oggi la maggior parte delle organizzazioni utilizza, in misura maggiore o minore, strumenti di AI e big data per supportare l'automazione e consentire un processo decisionale basato sui dati. Mentre l'intenzione è solitamente quella di migliorare i risultati aziendali, le aziende possono riscontrare conseguenze impreviste nelle loro applicazioni AI, spesso a causa di una ricerca e progettazione iniziale scadente e set di dati distorti. Questi problemi contribuiscono a mettere in evidenza l'importanza dell'uso etico dei sistemi di AI.

Le community di ricerca e data science hanno sviluppato linee guida per l'etica dell'AI per aiutare a mitigare queste conseguenze impreviste e risultati ingiusti. Anche le principali aziende di AI si sono interessate a plasmare queste linee guida, poiché sanno che il mancato rispetto degli standard etici può danneggiare i loro prodotti, servizi e utenti. La mancanza di diligenza nell'etica dell'AI può comportare un danno a livello reputazionale, normativo e legale, con conseguenti sanzioni costose.

L'innovazione tende a superare la regolamentazione governativa, in particolare nel caso di tecnologie emergenti come l'AI. Col tempo, ci si può aspettare che sempre più governi emetteranno protocolli di AI previsti dalla legge per proteggere i diritti umani e le libertà civili. Sebbene esistano alcune regolamentazioni (come la Legge sull'IA dell'UE, molte linee guida etiche esistenti sull'AI sono framework volontari proposti da scienziati e gruppi industriali.

La comunità accademica si è a lungo basata sui principi etici delineati nel "Rapporto Belmont"¹ del 1979 per guidare l'etica nella ricerca sperimentale e nello sviluppo di algoritmi.

Questi principi possono offrire una base per la ricerca etica, la progettazione e l'utilizzo etico di AI e machine learning. Tuttavia, poiché sono stati ideati pensando ai soggetti umani, e molto prima dei moderni sistemi di AI generativa e agentica, non sono sufficienti da soli. Dovrebbero essere considerati fondamentali, ma non un insieme completo di principi dell'AI.

I principi del Rapporto Belmont sono:

Ci sono diverse questioni al centro delle conversazioni etiche riguardanti le tecnologie di AI nel mondo reale. Queste preoccupazioni riflettono i potenziali impatti più ampi dell'AI sulla società. Alcune di queste preoccupazioni includono:

Il lancio di ChatGPT nel 2022 ha segnato un vero punto di svolta per l'intelligenza artificiale. Le capacità del chatbot di OpenAI, dalla scrittura di note legali al debug del codice, hanno inaugurato nuove possibilità su ciò che l'AI può fare e su come può essere applicata in quasi tutti i settori.

ChatGPT e strumenti AI simili si basano su foundation model, modelli AI che possono essere applicati a un'ampia gamma di attività a valle. I foundation model sono in genere modelli generativi su larga scala, composti da miliardi di parametri, che si basano su dati di addestramento non etichettati e utilizzano l'auto-supervisione. I foundation model, spesso chiamati grandi modelli di linguaggio (LLM), possono applicare ciò che hanno appreso in un contesto a un altro, rendendoli altamente adattabili.

Tuttavia, ci sono molti potenziali problemi e preoccupazioni etiche relative ai foundation model, come pregiudizi, generazione di contenuti falsi (inclusi output inaffidabili o fuorvianti) e mancanza di spiegabilità. Molte di queste questioni sono rilevanti per l'AI in generale, ma assumono una nuova urgenza alla luce della potenza e della disponibilità dei foundation model.

I foundation model e i modelli di AI generativa (gen AI) introducono anche sfide etiche derivanti dalla loro scalabilità, dalla progettazione generica e dalla facilità di riutilizzo in diversi ambiti. Poiché questi modelli possono essere implementati in contesti molto distanti dal loro intento di formazione originale, le questioni di responsabilità e responsabilità diventano molto più complesse. Spesso non è chiaro come gli obblighi etici debbano essere condivisi tra i fornitori di modelli e coloro che li implementano a valle. Di chi è la responsabilità di impedire a un modello, ad esempio, di utilizzare in modo improprio dati sensibili o di divulgare la proprietà intellettuale: il fornitore, l'operatore o l'utente finale?

Inoltre, i sistemi di AI generativa possono produrre output convincenti ma errati o fuorvianti e consentire un uso improprio su una scala senza precedenti. Di conseguenza, le linee guida etiche per i foundation model spesso enfatizzano una documentazione chiara, i vincoli di utilizzo, il monitoraggio continuo e la supervisione umana durante l'implementazione.

La singolarità tecnologica è uno scenario teorico in cui la crescita tecnologica diventa incontrollabile e irreversibile, culminando in cambiamenti profondi e imprevedibili per la civiltà umana. Sebbene questo argomento generi molta attenzione pubblica, molti ricercatori non sono preoccupati dall'idea che l'AI superi l'intelligenza umana nel prossimo futuro.  

L'AI senziente (AI che possiederebbe intelligenza e consapevolezza di sé pari agli umani) e la superintelligenza sono ancora ipotetiche. Tuttavia, le idee sollevano alcune domande interessanti e implicazioni etiche sul modo in cui utilizziamo l'AI nei sistemi autonomi, come le auto a guida autonoma.

Ad esempio, non è realistico pensare che un'auto senza conducente non avrà mai un incidente. Ma chi è responsabile in tali circostanze? Dovremmo sviluppare comunque veicoli autonomi o limitare l'integrazione di questa tecnologia per creare solo veicoli semi-autonomi che promuovano la sicurezza dei conducenti?

Questi tipi di dilemmi etici sono tutt'altro che risolti, ma sono i dibattiti che le nuove e innovative tecnologie di AI suscitano.

Sebbene la percezione pubblica dell'intelligenza artificiale sia incentrata sulla perdita di posti di lavoro, questa preoccupazione può essere riformulata. Con ogni nuova tecnologia dirompente, la domanda di mercato per ruoli specifici cambia.

Ad esempio, quando si diffusero i personal computer, impieghi come il dattilografo e l'archivista scomparvero in gran parte. Contemporaneamente, sono emerse nuove categorie di lavoro: supporto IT, sviluppo software e inserimento dati.

L'intelligenza artificiale dovrebbe essere vista in modo simile. Le iniziative di AI non ridurranno necessariamente la forza lavoro. Piuttosto, l'AI probabilmente sposterà la domanda di lavoro verso altri settori. Saranno necessarie persone per gestire i sistemi di AI e risolvere i problemi più complessi che si presentano nei loro settori.

L'aspetto più importante dell'impatto dell'intelligenza artificiale sul mercato del lavoro è aiutare le persone a passare a nuove aree della domanda di mercato.

I modelli AI si basano sui dati. Pertanto, la privacy dei dati, la protezione dei dati e la sicurezza dei dati sono preoccupazioni fondamentali dell'etica dell'AI.

I decisori politici hanno promosso importanti leggi sulla protezione dei dati nell'ultimo decennio, e le regole che hanno stabilito si applicano in gran parte sia agli strumenti di AI che al software tradizionale.

Il Regolamento Generale sulla Protezione dei Dati (GDPR) dell'UE, ad esempio, conferisce agli individui dell'Unione Europea e dello Spazio Economico Europeo un maggiore controllo sui propri dati personali. Negli Stati Uniti, politiche a livello statale come il California Consumer Privacy Act (CCPA) richiedono alle aziende di informare i consumatori sulla raccolta dei loro dati.

Gli enti governativi stanno anche iniziando a emanare regole specifiche per l'AI riguardo alla raccolta, l'archiviazione e l'uso di informazioni di identificazione personale (PII). Ad esempio, nel 2024, la California ha iniziato a redigere delle norme in materia di AI e tecnologie di decisione automatizzata. Tali regole sono state successivamente finalizzate e le imprese devono rispettarle entro il 1° gennaio 2027. 

Sebbene le aziende generalmente abbiano buone intenzioni per le loro attività di AI e automazione, i pregiudizi incorporati nei set di dati di addestramento e negli algoritmi di AI possono portare a risultati discriminatori.

Ad esempio, Amazon ha abbandonato un primo strumento di assunzioni basato su AI quando si è scoperto che questo assegnava sistematicamente punteggi più bassi alle donne rispetto agli uomini. Questo perché lo strumento è stato addestrato su un campione di curriculum composto in gran parte da uomini.

I pregiudizi e le discriminazioni non si limitano alla funzione delle risorse umane. Si trovano in diverse applicazioni, dai software di riconoscimento facciale agli algoritmi dei social media. Gli strumenti di riconoscimento facciale, ad esempio, hanno di solito più difficoltà a identificare le persone di colore.

Man mano che le aziende diventano più consapevoli dei rischi, sono diventate anche più attive nella discussione.

Ad esempio, nel 2020 IBM ha ritirato dal mercato i suoi prodotti di riconoscimento e analisi facciale per uso generale. All'epoca, il CEO di IBM Arvind Krishna scrisse:

"IBM si oppone fermamente e non condonerà l'uso di qualsiasi tecnologia, compresa quella di riconoscimento facciale offerta da altri fornitori, per la sorveglianza di massa, la profilazione razziale, le violazioni dei diritti umani e delle libertà fondamentali, o qualsiasi scopo che non sia coerente con i nostri valori e i nostri principi di fiducia e trasparenza."

La rapida adozione dell'AI generativa ha intensificato le preoccupazioni relative ai contenuti sintetici come i deepfake, la misinformazione automatizzata e l'erosione della fiducia nelle informazioni digitali.

Man mano che testi, immagini, audio e video generati dall'AI diventano sempre più difficili da distinguere dai contenuti creati dall'uomo, la necessità di trasparenza ora va oltre la semplice spiegazione dei modelli fino alla tracciabilità e alla divulgazione degli output. In risposta a questo, i decisori politici e i fornitori di tecnologia stanno sviluppando meccanismi di tracciabilità dei contenuti. Questi meccanismi possono includere elementi come requisiti di etichettatura, filigrane e metadati crittografici per aiutare gli utenti a identificare materiale generato dall'AI.

Questi approcci possono introdurre tensioni etiche, inclusi compromessi tra sicurezza, privacy e libertà di espressione, ma sono sempre più considerati essenziali per preservare la fiducia negli ecosistemi digitali.

Sebbene non esista un'unica legge globale che disciplini l'AI, la sua regolamentazione è passata rapidamente da linee guida volontarie a framework in più giurisdizioni.

La Legge sull'IA dell'Unione Europea, entrata in vigore nel 2024, stabilisce obblighi vincolanti per alcune pratiche di AI. Questi obblighi includono divieti sui sistemi a rischio inaccettabile, requisiti di trasparenza per i contenuti generati dai modelli AI e regole di governance del ciclo di vita per modelli AI ad alto rischio e a uso generale.

La proliferazione di leggi come la Legge sull'IA dell'UE segnala un cambiamento più ampio nell'etica dell'AI, passando da principi aspirazionali a meccanismi di responsabilità che combinano standard etici con conformità legale.

L'intelligenza artificiale funziona secondo come è progettata, sviluppata, addestrata, ottimizzata e utilizzata. L'etica dell'AI consiste nello stabilire standard e guardrail attorno a ciascuna di queste fasi del ciclo di vita di un sistema AI.

Organizzazioni, governi e ricercatori hanno redatto framework per affrontare le attuali preoccupazioni etiche dell'AI e plasmare il futuro dell'AI. Sebbene le linee guida possano variare, esiste un certo consenso sulle attività fondamentali di governance dell'AI.

L'etica dell'AI è sempre più intesa non come un insieme di principi, ma come una funzionalità continua integrata durante tutto il ciclo di vita dell'AI. Una governance efficace richiede processi continui per valutare il rischio, documentare le decisioni di progettazione, monitorare i sistemi implementati e rispondere a comportamenti o danni imprevisti. Man mano che i sistemi di AI evolvono nel tempo, la supervisione etica deve evolversi con loro, supportata da una chiara proprietà e controlli misurabili, piuttosto che da politiche statiche.

La governance aiuta a garantire che i sistemi di AI funzionino secondo i principi, i valori e le pratiche di AI responsabile di un'organizzazione.

I componenti comuni di un programma di governance dell'AI includono:

• Definire i ruoli e le responsabilità delle persone che lavorano con l'AI per garantire un'adeguata supervisione umana.
  
  
• Educare tutte le persone coinvolte nel ciclo di vita dell'AI sulla creazione e l'utilizzo dell'AI in modo responsabile.
  
  
• Stabilire processi per la creazione, la gestione, il monitoraggio, la comunicazione sull'AI e l'esecuzione di audit dei sistemi AI.
  
  
• Sfruttare strumenti per migliorare le prestazioni e l'affidabilità dell'AI durante tutto il ciclo di vita dell'AI.

Un comitato etico dell'AI è un altro meccanismo di governance efficace. Ad esempio, l'IBM Responsible Technology Board, composto da diversi leader provenienti dall'intera azienda, fornisce una governance centralizzata, un processo di revisione e un processo decisionale per le politiche e le pratiche etiche dell'AI di IBM.

Le organizzazioni possono costruire un'AI affidabile fondando il proprio lavoro su principi etici chiari applicati in modo coerente a prodotti, politiche e processi. Questi principi dovrebbero concentrarsi su aree concrete, come la spiegabilità o l'equità, attorno alle quali si possano sviluppare standard e pratiche specifiche.

Quando l'etica è integrata nell'AI fin dall'inizio, è in grado di apportare enormi benefici. Settori come l'assistenza sanitaria ne stanno già traendo vantaggio. L'AI sta trasformando discipline come la radiologia, rilevando le anomalie nelle scansioni in modo più rapido e accurato rispetto ai metodi tradizionali.

Molte organizzazioni scoprono di essere in una posizione migliore per sfruttare questi vantaggi se trattano l'etica dell'intelligenza artificiale come una disciplina pratica che combina valori, governance e responsabilità per supportare l'innovazione responsabile su larga scala.

Gli standard etici non sono la principale preoccupazione degli ingegneri dei dati e dei data scientist nel settore privato. Tuttavia, sono emerse diverse organizzazioni per promuovere una condotta etica nel campo dell'intelligenza artificiale.

Queste organizzazioni includono:

• AlgorithmWatch, che si concentra su algoritmi e processi decisionali spiegabili e tracciabili nei programmi di AI.
  
  
• L'AI Now Institute, un'organizzazione no-profit della New York University che ricerca le implicazioni sociali dell'AI.
  
  
• La Defense Advanced Research Projects Agency (DARPA) del Dipartimento della Difesa degli Stati Uniti che promuove l'AI spiegabile e la ricerca sull'AI.
  
  
• Il Center for Human-Compatible Artificial Intelligence (CHAI), una cooperazione di vari istituti e università per promuovere un'intelligenza artificiale affidabile e sistemi vantaggiosi.

I I principi di fiducia e trasparenza di IBM determinano il suo approccio allo sviluppo di dati e AI. Questi principi sono:

1. Lo scopo dell'AI è potenziare l'intelligenza umana. Ciò significa che non si cerca di sostituire l'intelligenza umana con l'intelligenza artificiale, ma di supportarla.
   
   
2. I dati e gli insight appartengono ai loro creatori. Alle organizzazioni non dovrebbe essere richiesto di rinunciare ai diritti sui propri dati, né agli insight che ne derivano, per usufruire dei benefici delle soluzioni e dei servizi di AI.
   
   
3. I sistemi AI devono essere trasparenti e spiegabili. IBM ritiene che le aziende tecnologiche debbano essere chiare su chi addestra i loro sistemi AI, con quali dati e, soprattutto, cosa è stato inserito nelle raccomandazioni dei loro algoritmi.

IBM ha inoltre sviluppato cinque pilastri per guidare l'adozione responsabile delle tecnologie di AI.

• Spiegabilità: un sistema AI dovrebbe essere trasparente, in particolare per quanto riguarda le raccomandazioni del suo algoritmo, in quanto rilevanti per vari stakeholder con vari obiettivi.
  
  
• Equità: questo pilastro si riferisce al trattamento equo di individui, o gruppi di individui, da parte di un sistema AI. Se adeguatamente calibrata, l'AI può aiutare gli esseri umani a fare scelte più eque, contrastare i pregiudizi e promuovere l'inclusività.
  
  
• Solidità: i sistemi basati sull'AI devono essere difesi attivamente dagli attacchi avversari, riducendo al minimo i rischi per la sicurezza e promuovendo la fiducia nei risultati del sistema.
  
  
• Trasparenza: per rafforzare la fiducia, gli utenti devono poter vedere come funziona il servizio, valutarne la funzionalità e comprenderne i punti di forza e i limiti.
  
  
• Privacy: i sistemi AI devono dare priorità e salvaguardare la privacy e i diritti dei dati dei consumatori e fornire garanzie esplicite agli utenti su come i loro dati personali verranno utilizzati e protetti.