Riesgo de acciones inexplicables e ilocalizables para la IA
Descripción
Las explicaciones, la información de linaje y rastreo y la atribución de origen de las acciones de los agentes de IA pueden ser difíciles, imprecisas o imposibles de obtener.
¿Por qué las acciones inexplicables e ilocalizables preocupan a los modelos de fundación?
Sin explicaciones claras, información sobre el linaje y atribuciones de origen para las acciones de los agentes de IA, es difícil que los usuarios, los validadores de modelos y los auditores entiendan el modelo y confíen en él. Las explicaciones erróneas pueden llevar a un exceso de confianza.
Tema principal: Atlas de riesgos de IA
Aportamos ejemplos de los que se ha hecho eco la prensa para ayudar a explicar muchos de los riesgos de los modelos de fundación. Muchos de estos sucesos de los que se ha hecho eco la prensa aún están evolucionando o se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y a trabajar para mitigarlos. Estos ejemplos son meramente ilustrativos.