Risco de viés de dados para IA
Descrição
Vieses históricos e sociais podem estar presentes nos dados que são usados para treinar e ajustar os modelos. Os vieses também podem ser herdados de dados semente ou exacerbados por métodos de geração de dados sintéticos.
Por que a tendência dos dados é uma preocupação para os modelos de fundação?
O treinamento de um sistema de IA em dados com viés, como o viés histórico ou social, pode levar a resultados tendenciosos ou distorcidos que podem representar injustamente ou discriminar determinados grupos ou indivíduos.
Preconceito no setor de saúde
De acordo com o artigo de pesquisa sobre o reforço das disparidades na medicina, o uso de dados e aplicativos de IA para transformar a forma como as pessoas recebem assistência médica é tão forte quanto os dados por trás do esforço. Por exemplo, o uso de dados de treinamento com pouca representação de minorias ou que reflitam o que já é um atendimento desigual pode levar ao aumento das desigualdades na saúde.
Tópico principal: Atlas de risco de IA
Nós fornecemos exemplos cobertos pela imprensa para ajudar a explicar muitos dos riscos dos modelos de fundação. Muitos desses eventos cobertos pela imprensa ainda estão evoluindo ou já foram resolvidos, e fazer referência a eles pode ajudar o leitor a entender os possíveis riscos e a trabalhar para mitigá-los. O destaque desses exemplos é apenas para fins ilustrativos.