Falta de dados de treinamento: risco de transparência para a IA
Descrição
A documentação adequada contém informações sobre como os dados de um modelo foram coletados, organizados e usados para treinar um modelo, incluindo qualquer processo de geração de dados sintéticos. Sem a documentação adequada, pode ser mais difícil explicar de forma satisfatória o comportamento do modelo.
Por que a falta de transparência dos dados de treinamento é uma preocupação para os modelos de fundação?
A falta de documentação dos dados limita a capacidade de avaliar os riscos associados a eles. Ter acesso aos dados de treinamento não é suficiente. Sem registrar como os dados foram limpos, modificados ou gerados, incluindo qualquer aumento de dados ou etapas de geração de dados sintéticos, o comportamento do modelo é mais difícil de entender e corrigir. A falta de transparência dos dados também afeta a reutilização do modelo, pois é difícil determinar a representatividade dos dados para o novo uso sem essa documentação.
Divulgação de Dados e Metadados de Modelo
OpenAI‘s é um exemplo da dicotomia em torno da divulgação de dados e metadados de modelos. Enquanto muitos desenvolvedores de modelos veem valor em permitir a transparência para os consumidores, a divulgação apresenta problemas reais de segurança e pode aumentar a capacidade de uso indevido dos modelos. No relatório técnico do GPT-4, os autores declaram: "Considerando o cenário competitivo e as implicações de segurança de modelos de grande escala como o GPT-4, este relatório não contém mais detalhes sobre a arquitetura (incluindo o tamanho do modelo), hardware, computação de treinamento, construção do conjunto de dados, método de treinamento ou similares."
Tópico principal: Atlas de risco de IA
Fornecemos exemplos cobertos pela imprensa para ajudar a explicar muitos dos riscos dos modelos de fundação. Muitos desses eventos cobertos pela imprensa ainda estão evoluindo ou já foram resolvidos, e fazer referência a eles pode ajudar o leitor a entender os possíveis riscos e a trabalhar para mitigá-los. Destacar esses exemplos é apenas para propósitos ilustrativos.