Rischio di provenienza incerta dei dati per l'IA
Descrizione
La provenienza dei dati si riferisce alla tracciabilità dei dati (compresi quelli sintetici), che comprende la proprietà, l'origine, le trasformazioni e la generazione. È difficile dimostrare che i dati sono gli stessi della fonte originale con termini d'uso corretti senza metodi standardizzati per verificare le fonti o la generazione dei dati.
Perché la provenienza incerta dei dati è un problema per i modelli di fondazione?
Non tutte le origini dati sono affidabili. I dati potrebbero essere raccolti, manipolati o falsificati in modo non etico. La verifica della provenienza dei dati è difficile a causa di fattori quali il volume dei dati, la complessità dei dati, la varietà delle fonti di dati, la scarsa gestione dei dati e i metodi di generazione dei dati sintetici. L'utilizzo di tali dati può causare comportamenti indesiderati nel modello.
Argomento principale: Atlante del rischio di IA
Facciamo degli esempi che sono stati trattati dalla stampa per spiegare molti dei rischi dei modelli di fondazione. Molti di questi eventi trattati dalla stampa sono ancora in evoluzione o sono stati risolti, e fare riferimento ad essi può aiutare il lettore a comprendere i rischi potenziali e a lavorare per mitigarli. L'evidenziazione di questi esempi è solo a scopo illustrativo.