Risco de excesso ou falta de confiança na IA
Descrição
Em tarefas de tomada de decisão assistida por IA, a confiança mede o quanto uma pessoa confia (e potencialmente age de acordo com) o resultado de um modelo. O excesso de confiança ocorre quando uma pessoa confia demais em um modelo, aceitando o resultado de um modelo quando o resultado do modelo provavelmente está incorreto. A subconfiança é o oposto, quando a pessoa não confia no modelo, mas deveria confiar.
Por que o excesso ou a falta de confiança é uma preocupação para os modelos de fundação?
Em tarefas em que os seres humanos fazem escolhas com base em sugestões baseadas em IA, a dependência excessiva ou insuficiente pode levar a uma tomada de decisão ruim devido à confiança equivocada no sistema de IA, com consequências negativas que aumentam com a importância da decisão.
Tópico principal: Atlas de risco de IA
Nós fornecemos exemplos cobertos pela imprensa para ajudar a explicar muitos dos riscos dos modelos de fundação. Muitos desses eventos cobertos pela imprensa ainda estão evoluindo ou já foram resolvidos, e fazer referência a eles pode ajudar o leitor a entender os possíveis riscos e a trabalhar para mitigá-los. O destaque desses exemplos é apenas para fins ilustrativos.