Risco de ações discriminatórias para IA
Descrição
Os agentes de IA podem realizar ações em que um grupo de humanos é injustamente favorecido em relação a outro devido às decisões do modelo. Isso pode ser causado por ações tendenciosas dos agentes de IA que afetam o mundo, os recursos consultados e o processo de seleção de recursos. Por exemplo, um agente de IA pode gerar um código que pode ser tendencioso.
Por que as ações discriminatórias são uma preocupação para os modelos de fundação?
Ações discriminatórias podem causar danos às pessoas. As ações discriminatórias tomadas por um agente de IA podem perpetuar a parcialidade em sistemas fora do controle do proprietário do agente de IA, afetar as pessoas ou levar a consequências não intencionais.
Tópico principal: Atlas de risco de IA
Fornecemos exemplos cobertos pela imprensa para ajudar a explicar muitos dos riscos dos modelos de fundação. Muitos desses eventos cobertos pela imprensa ainda estão evoluindo ou já foram resolvidos, e fazer referência a eles pode ajudar o leitor a entender os possíveis riscos e a trabalhar para mitigá-los. O destaque desses exemplos é apenas para fins ilustrativos.