Falta de risco de transparência de dados para IA
Descrição
A falta de transparência dos dados pode ser devida à documentação insuficiente dos detalhes do conjunto de dados de treinamento ou ajuste, incluindo a geração de dados sintéticos.
Por que a falta de transparência de dados é uma preocupação para modelos de fundação?
A transparência é importante para conformidade legal e ética de IA. As informações sobre a coleta, a geração e a preparação dos dados de treinamento, inclusive como foram rotulados e por quem, e quaisquer métodos de geração de dados sintéticos usados, são necessárias para entender o comportamento e a adequação do modelo. Os detalhes sobre como os riscos dos dados foram determinados, medidos e atenuados são importantes para avaliar a confiabilidade dos dados e do modelo. A falta de detalhes sobre os dados pode dificultar a avaliação dos danos de representação, da propriedade dos dados, da proveniência e de outros riscos relacionados aos dados. A falta de requisitos padronizados pode limitar a divulgação, pois as organizações protegem os segredos comerciais e tentam impedir que outros copiem seus modelos.
Tópico principal: Atlas de risco de IA
Nós fornecemos exemplos cobertos pela imprensa para ajudar a explicar muitos dos riscos dos modelos de fundação. Muitos desses eventos cobertos pela imprensa ainda estão evoluindo ou já foram resolvidos, e fazer referência a eles pode ajudar o leitor a entender os possíveis riscos e a trabalhar para mitigá-los. O destaque desses exemplos é apenas para fins ilustrativos.