Las fichas especializadas atacan el riesgo de la IA
Descripción
Ataques que incluyen tokens especializados, a menudo diseñados algorítmicamente, para atacar y explotar vulnerabilidades en el modelo.
¿Por qué el ataque de fichas especializadas preocupa a los modelos de fundación?
Los ataques especializados a fichas pueden utilizarse para alterar el comportamiento del modelo y beneficiar al atacante. Los contenidos que genera pueden causar daños al usuario o a terceros.
Tema principal: Atlas de riesgos de IA
Aportamos ejemplos de los que se ha hecho eco la prensa para ayudar a explicar muchos de los riesgos de los modelos de fundación. Muchos de estos sucesos de los que se ha hecho eco la prensa aún están evolucionando o se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y a trabajar para mitigarlos. Estos ejemplos son meramente ilustrativos.