Rischio di azioni discriminatorie per l'IA
Descrizione
Gli agenti di intelligenza artificiale possono intraprendere azioni in cui un gruppo di umani è ingiustamente avvantaggiato rispetto a un altro a causa delle decisioni del modello. Ciò può essere causato da azioni distorte degli agenti AI che hanno un impatto sul mondo, sulle risorse consultate e sul processo di selezione delle risorse. Ad esempio, un agente AI può generare codice che può essere distorto.
Perché le azioni discriminatorie sono un problema per i modelli di fondazione?
Le azioni discriminatorie possono causare danni alle persone. Le azioni discriminatorie intraprese da un agente di IA potrebbero perpetuare pregiudizi nei sistemi al di fuori del controllo del proprietario dell'agente di IA, avere un impatto sulle persone o portare a conseguenze indesiderate.
Argomento principale: Atlante del rischio di IA
Forniamo esempi che la stampa ha riportato per spiegare molti dei rischi dei modelli di fondazione. Molti di questi eventi trattati dalla stampa sono ancora in evoluzione o sono stati risolti, e fare riferimento ad essi può aiutare il lettore a comprendere i rischi potenziali e a lavorare per mitigarli. Questi esempi sono evidenziati solo a scopo illustrativo.