Espalhando risco de desinformação para IA
Descrição
Os modelos de IA generativa podem ser usados para criar intencionalmente informações enganosas ou falsas para enganar ou influenciar um público-alvo.
Por que espalhar desinformação é uma preocupação para os modelos de fundação?
A disseminação da desinformação pode afetar a capacidade do ser humano de tomar decisões informadas. Um modelo que tem esse potencial deve ser adequadamente governado. "
Geração de informações falsas
De acordo com os artigos de notícias citados, a IA gerativa representa uma ameaça às eleições democráticas, tornando mais fácil para os atores maliciosos criar e espalhar conteúdo falso para ostentar resultados eleitorais. Os exemplos que são citadas incluem:
- As mensagens de Robocall que são geradas na voz de um candidato instruíram os eleitores a votar na data errada.
- Gravações de áudio sintetizadas de um candidato que confessou um crime ou expressou opiniões racistas.
- Imagens de vídeo geradas por IA mostraram um candidato dando um discurso ou entrevista que nunca deram.
- Imagens falsas que são projetadas para se parecer com relatórios de notícias locais.
- Falsamente alegando que um candidato desistiu da corrida.
Tópico principal: Atlas de risco de IA
Fornecemos exemplos cobertos pela imprensa para ajudar a explicar muitos dos riscos dos modelos de fundação. Muitos desses eventos cobertos pela imprensa ainda estão evoluindo ou já foram resolvidos, e fazer referência a eles pode ajudar o leitor a entender os possíveis riscos e a trabalhar para mitigá-los. Destacar esses exemplos é apenas para propósitos ilustrativos.