Risco de propensão de decisão para IA
Descrição
O viés de decisão ocorre quando um grupo é injustamente favorecido em relação a outro devido a decisões do modelo. Isso pode ser causado por vieses nos dados e também ampliado como resultado do treinamento do modelo.
Por que o viés de decisão é uma preocupação para modelos de fundação?
O preconceito pode prejudicar as pessoas afetadas pelas decisões do modelo.
Grupos injustamente favorecidos
O estudo de 2018 Gender Shades demonstrou que os algoritmos de aprendizado de máquina podem discriminar com base em classes como raça e gênero. Pesquisadores avaliaram sistemas comerciais de classificação de gênero que são vendidos por empresas como Microsoft, IBMe Amazon e mostraram que mulheres de pele mais escura são o grupo mais mal classificado (com taxas de erro de até 35%). Em comparação, as taxas de erro para a pele mais clara não foram superiores a 1%.
Tópico principal: Atlas de risco de IA
Fornecemos exemplos cobertos pela imprensa para ajudar a explicar muitos dos riscos dos modelos de fundação. Muitos desses eventos cobertos pela imprensa ainda estão evoluindo ou já foram resolvidos, e fazer referência a eles pode ajudar o leitor a entender os possíveis riscos e a trabalhar para mitigá-los. Destacar esses exemplos é apenas para propósitos ilustrativos.