Dispersión del riesgo de desinformación para IA
Descripción
Los modelos generativos de IA podrían utilizarse para crear intencionadamente información engañosa o falsa con el fin de engañar o influir en un público determinado.
¿Por qué difundir la desinformación es una preocupación para los modelos de fundación?
La difusión de desinformación puede afectar a la capacidad humana de tomar decisiones con conocimiento de causa. Un modelo que tiene este potencial debe ser gobernado adecuadamente.
Generación de información falsa
Según los artículos de noticias citados, la IA generativa representa una amenaza para las elecciones democráticas al facilitar a los actores maliciosos la creación y difusión de contenido falso para sesgar los resultados electorales. Los ejemplos que se citan son:
- Los mensajes de robocall que se generan en la voz de un candidato indicaban a los votantes que emitieran sus votos en la fecha equivocada.
- Sintetiza grabaciones de audio de un candidato que confesó un crimen o expresó opiniones racistas.
- Imágenes de video generadas por IA mostraron a un candidato dando un discurso o entrevista que nunca dieron.
- Imágenes falsas que están diseñadas para parecerse a los informes de noticias locales.
- Afirmando falsamente que un candidato se retiró de la carrera.
Tema principal: Atlas de riesgos de IA
Proporcionamos ejemplos cubiertos por la prensa para ayudar a explicar muchos de los riesgos de los modelos básicos. Muchos de estos sucesos de los que se ha hecho eco la prensa aún están evolucionando o se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y a trabajar para mitigarlos. El resaltado de estos ejemplos sólo tiene fines ilustrativos.