Che cos'è l'AI responsabile? 

Questo articolo mira a fornire una visione generale dell'AI responsabile. Per maggiori informazioni sul punto di vista specifico di IBM, consulta la nostra pagina sull'etica dell'AI.

L'adozione diffusa del machine learning negli anni 2010, alimentata dai progressi nei big data e nella potenza di calcolo, ha portato nuove sfide etiche, come le distorsioni, la trasparenza e l'uso dei dati personali. L'etica dell'AI è emersa come disciplina distinta durante questo periodo, poiché le aziende tecnologiche e gli istituti di ricerca sull'AI hanno cercato di gestire in modo proattivo e responsabile i loro sforzi in materia di AI.

Gli strumenti di AI generativa e gli agenti AI che ora vengono adottati rapidamente dalle aziende richiedono nuovi framework per un uso etico. Le organizzazioni lungimiranti che ripensano i principi di AI responsabile in un'ottica agentica possono aiutare chi adotta queste tecnologie a sfruttarne appieno il potenziale, riducendo al minimo gli esiti indesiderati.

L'AI deve essere affidabile e, affinché gli stakeholder si fidino, deve essere trasparente. Le aziende tecnologiche devono essere chiare su chi addestra i loro sistemi AI, con quali dati e, soprattutto, cosa è stato inserito nelle raccomandazioni per gli algoritmi. Se vogliamo utilizzare l'AI per prendere decisioni importanti, questa deve essere spiegabile.

L'AI responsabile è una pratica socio-tecnica che riunisce persone, processi, strumenti e governance. Richiede alle organizzazioni di considerare l'intero ciclo di vita dei sistemi di AI, dalla raccolta dei dati e dallo sviluppo dei modelli fino all'implementazione, al monitoraggio e al miglioramento. Richiede inoltre attenzione agli effetti più ampi dell'AI su individui, organizzazioni, società e ambiente.

Il Responsible Technology & Governance Framework di IBM unisce principi, proprietà, dimensioni di impatto e pratiche di governance in un unico approccio per costruire e distribuire tecnologie responsabili. L'AI responsabile rimane centrale in questo approccio, mentre il framework estende lo stesso modello di governance alle tecnologie emergenti come i sistemi agentici, il calcolo quantistico e i domini futuri.

Il Framework è organizzato intorno a quattro componenti:

1. Principi per la fiducia
   gli impegni fondamentali di IBM per lo sviluppo e la distribuzione responsabile della tecnologia:

   • La tecnologia dovrebbe potenziare le capacità umane.

   • La tecnologia dovrebbe basarsi su una governance dei dati responsabile.

   • La tecnologia dovrebbe essere aperta e trasparente.

2. Pilastri di AI affidabile
   Le qualità che i sistemi di AI dovrebbero dimostrare per favorire la fiducia:

   • Trasparenza

   • Equità e allineamento ai valori umani

   • Affidabilità

   • Privacy

3. Dimensioni dell'impatto
   I risultati più ampi considerati da IBM nella valutazione della tecnologia:

   • L'azione umana e la fiducia

   • Benessere sociale

   • Sostenibilità ambientale

4. Governance
   I programmi, gli strumenti, la formazione, le politiche, le partnership e i meccanismi di revisione che collegano gli impegni di tecnologia responsabili alla pratica quotidiana.

Insieme, questi componenti consentono di progettare la responsabilità fin dalla fase di ideazione. Man mano che i sistemi di AI diventano più capaci e integrati nelle operazioni aziendali, le organizzazioni dovrebbero essere in grado di dimostrare che la fiducia è operativa attraverso una governance integrata in sistemi e processi.

L'implementazione delle pratiche di AI responsabile a livello aziendale comporta un approccio olistico, end-to-end, che affronta le varie fasi dello sviluppo e dell'implementazione dell'AI.

Sviluppa un insieme di principi di AI responsabile in linea con i valori e gli obiettivi dell'innovazione AI dell'azienda. Consideriamo gli aspetti chiave descritti sopra nei "Pilastri della fiducia". Tali principi possono essere sviluppati e garantiti da un team dedicato all'etica dell'AI interfunzionale con rappresentanti di diversi dipartimenti, tra cui specialisti di AI, esperti di etica, esperti legali e leader aziendali.

Conduci programmi di formazione per educare i dipendenti, gli stakeholder e i responsabili delle decisioni sulle pratiche di AI responsabile. Ciò include la comprensione delle potenziali distorsioni, le considerazioni etiche e l'importanza di incorporare un'AI responsabile nelle operazioni aziendali.

Incorpora pratiche di AI responsabile in tutta la pipeline del suo sviluppo, dalla raccolta dei dati e dall'addestramento dei modelli all'implementazione e al monitoraggio continuo. Utilizza tecniche per affrontare e mitigare i pregiudizi nei sistemi di AI. Valuta regolarmente i modelli in termini di equità utilizzando metriche consolidate, soprattutto per quanto riguarda attributi sensibili come razza, genere o status socioeconomico. Dai priorità alla trasparenza rendendo spiegabili i sistemi di AI. Fornisci una documentazione chiara sulle fonti di dati, algoritmi e processi decisionali. Gli utenti e gli stakeholder devono essere in grado di comprendere come i sistemi di AI prendono decisioni.

Stabilisci pratiche e misure di governance responsabile dell'AI per proteggere la privacy degli utenti finali e i dati sensibili. Comunica in modo chiaro le politiche di utilizzo dei dati, ottenere il consenso informato e rispettare le normative sulla protezione dei dati.

Integra i meccanismi per la supervisione umana nei processi decisionali critici. Definisci chiare linee di responsabilità per garantire che le parti responsabili siano identificate e possano essere ritenute responsabili dei risultati dei sistemi AI. Stabilisci un monitoraggio continuo dei sistemi AI per identificare e affrontare le preoccupazioni etiche, i pregiudizi o i problemi che possono sorgere nel tempo. Verifica regolarmente i modelli AI per valutare la conformità alle linee guida etiche.

Promuovi la collaborazione con organizzazioni esterne, istituti di ricerca e gruppi open source che lavorano sulla sicurezza dell'AI. Rimani al corrente degli ultimi sviluppi nelle pratiche e nelle iniziative di AI responsabile e contribuisci agli sforzi di tutto il settore.