Riesgo de exclusión para la IA
Descripción
La exclusión se refiere al riesgo de que los procesos de generación de datos sintéticos pasen por alto o no consulten a las poblaciones marginadas. Esta exclusión da lugar a datos sintéticos que no representan fielmente sus experiencias, necesidades o perspectivas.
¿Por qué preocupa la exclusión en los modelos de fundación?
La exclusión puede dar lugar a resultados injustos en los modelos, erosionar la confianza y perjudicar potencialmente a los grupos marginados, ya que los datos sintéticos utilizados para entrenar los modelos de las fundaciones podrían perpetuar los prejuicios y desigualdades existentes, dando lugar potencialmente a resultados discriminatorios, a la exacerbación de las disparidades sociales y económicas y a la erosión de la confianza en los sistemas de IA entre las comunidades marginadas.
Tema principal: Atlas de riesgos de IA
Proporcionamos ejemplos de los que se ha hecho eco la prensa para ayudar a explicar muchos de los riesgos de los modelos de fundación. Muchos de estos sucesos de los que se ha hecho eco la prensa aún están evolucionando o se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y a trabajar para mitigarlos. Estos ejemplos son meramente ilustrativos.