Risco de ataque de inferência de atributo para IA
Descrição
Um ataque de inferência de atributos consulta repetidamente um modelo para detectar se determinados recursos sensíveis podem ser inferidos sobre indivíduos que participaram do treinamento de um modelo. Esses ataques ocorrem quando um adversário tem algum conhecimento prévio sobre os dados de treinamento e usa esse conhecimento para inferir os dados sensíveis
Por que o ataque de inferência de atributo é uma preocupação para modelos de base?
Com um ataque bem-sucedido, o invasor pode obter informações valiosas como informações pessoais confidenciais ou propriedade intelectual.
Tópico principal: Atlas de risco de IA
Nós fornecemos exemplos cobertos pela imprensa para ajudar a explicar muitos dos riscos dos modelos de fundação. Muitos desses eventos cobertos pela imprensa ainda estão evoluindo ou já foram resolvidos, e fazer referência a eles pode ajudar o leitor a entender os possíveis riscos e a trabalhar para mitigá-los. O destaque desses exemplos é apenas para fins ilustrativos.