O que é aumento de dados?

No sentido mais geral, aumento de dados denota métodos para suplementar os chamados conjuntos de dados incompletos, fornecendo pontos de dados ausentes para aumentar a capacidade de análise do conjunto de dados.¹ Isso se manifesta no aprendizado de máquina por meio da geração de cópias modificadas de dados pré-existentes, aumentando o tamanho e a diversidade de um conjunto de dados. Assim, no contexto do aprendizado de máquina, os dados aumentados podem ser entendidos como um fornecimento artificial de dados do mundo real potencialmente ausentes.

O aumento de dados melhora a otimização e a generalização de modelos de aprendizado de máquina. Em outras palavras, o aumento de dados pode reduzir o overfitting e melhorar a robustez do modelo.² O fato de que grandes conjuntos de dados e diversos resultam em melhor desempenho de modelo é um axioma do aprendizado de máquina. No entanto, por uma série de razões, desde preocupações éticas e de privacidade até o esforço demorado de compilar manualmente os dados necessários, obter dados suficientes pode ser difícil. O aumento de dados fornece um meio eficaz de aumentar o tamanho e a variabilidade do conjunto de dados. De fato, pesquisadores utilizam amplamente o aumento de dados para corrigir conjuntos de dados desequilibrados.³

Muitos frameworks de deep learning, como PyTorch, Keras e TensorFlow, oferecem funções para aumentar dados, principalmente conjuntos de dados de imagens. O pacote Python Albumentations (disponível no GitHub) também é adotado em muitos projetos de código aberto. O Albumentations permite o aumento de dados de imagem e texto.

Observe que o aumento de dados é distinto dos dados sintéticos. Ambos são algoritmos generativos que adicionam novos dados a uma coleção de dados para melhorar o desempenho de modelos de aprendizado de máquina. No entanto, os dados sintéticos referem-se à geração automática de dados totalmente artificiais. Um exemplo é o uso de imagens geradas por computador (em vez de dados do mundo real) para treinar um modelo de detecção de objetos. Por outro lado, o aumento de dados copia dados existentes e transforma essas cópias para aumentar a diversidade e a quantidade de dados em um conjunto específico.

Existem diversos métodos de aumento de dados. As técnicas específicas utilizadas para aumentar dados dependem da natureza dos dados com os quais o usuário está trabalhando. Observe que o aumento de dados é tipicamente implementado durante o pré-processamento no conjunto de dados de treinamento. Alguns estudos investigam o efeito do aumento no conjunto de validação ou teste, mas as aplicações de aumento fora dos conjuntos de treinamento são mais raras.⁴

O aumento de dados tem sido amplamente implementado em pesquisas para uma variedade de tarefas de visão computacional, desde classificação de imagens até detecção de objetos. Por isso, há uma grande quantidade de pesquisas sobre como imagens aumentadas melhoram o desempenho de redes neurais convolucionais (CNNs) de última geração no processamento de imagens.

Muitos tutoriais e recursos não acadêmicos classificam a ampliação de dados de imagem em duas categorias: transformações geométricas e transformações fotométricas (ou de espaço de cor). Ambos consistem na manipulação relativamente simples de arquivos de imagem. A primeira categoria refere-se a técnicas que alteram o espaço e o layout da imagem original, como redimensionamento, zoom ou mudanças na orientação (por exemplo, inversão horizontal). As transformações fotométricas alteram os canais RGB (vermelho-verde-azul) de uma imagem. Exemplos de transformação fotométrica incluem o ajuste de saturação e a escala de cinza de uma imagem⁵

Algumas fontes categorizam a injeção de ruído como uma transformação geométrica⁶, enquanto outras a classificam como uma transformação fotométrica.⁷ A injeção de ruído insere pixels pretos, brancos ou coloridos aleatórios em uma imagem, de acordo com uma distribuição gaussiana.

Como ilustra a injeção de ruído, a classificação binária das técnicas de aumento de imagens em geométricas e fotométricas não abrange toda a gama de estratégias possíveis de aumento. Técnicas de aumento de imagem que ficam excluídas dessa classificação incluem filtragem por kernel (realçando ou desfocando uma imagem) e mistura de imagens. Um exemplo desta última é o corte e a colagem aleatórios. Essa técnica seleciona aleatoriamente seções de várias imagens para criar uma nova imagem. Essa nova imagem é um composto formado pelas seções selecionadas das imagens de input. Uma técnica relacionada é a exclusão aleatória, que apaga uma porção aleatória de uma imagem.⁸ Tais tarefas são úteis em atividades de reconhecimento de imagens, já que casos de uso do mundo real podem exigir que máquinas identifiquem objetos parcialmente ocultos.

O aumento no nível de instância é outra técnica de aumento. O aumento no nível de instância essencialmente copia regiões rotuladas (por exemplo, caixas delimitadoras) de uma imagem e as insere em outra imagem. Tal abordagem treina o modelo para identificar objetos contra diferentes fundos, assim como objetos ocultos por outros objetos. O aumento no nível de instância é uma abordagem particularmente relevante para tarefas de reconhecimento em regiões específicas, como detecção de objetos e segmentação de imagens.⁹

Assim como o aumento de imagens, o aumento de dados textuais consiste em várias técnicas e métodos utilizados em uma variedade de tarefas de processamento de linguagem natural (PLN). Alguns recursos dividem a ampliação de texto em métodos baseados em regras (ou "fáceis") e métodos neurais. Naturalmente, assim como na divisão binária das técnicas de aumento de imagens, essa categorização não cobre todas as possibilidades.

As abordagens baseadas em regras incluem técnicas relativamente simples de localizar e substituir, como exclusão ou inserção aleatória. Abordagens baseadas em regras também abrangem a substituição por sinônimos. Nessa estratégia, uma ou mais palavras em uma sequência são substituídas por seus respectivos sinônimos, conforme registrados em tesauros predefinidos, como o WordNet ou o Paraphrase Database. A inversão de frases e a passivação, nas quais o objeto e o sujeito são trocados, também são exemplos de abordagens baseadas em regras.¹⁰

Segundo essa classificação, os métodos neurais empregam redes neurais para criar novas amostras de texto a partir dos dados de input. Um método neural notável é a tradução reversa. Esse processo usa tradução automática para converter os dados de input em um idioma-alvo e, em seguida, retornar ao idioma original de input. Dessa forma, a tradução reversa aproveita as variações linguísticas que resultam de traduções automáticas para gerar variações semânticas em um conjunto de dados de língua única para fins de aumento. Pesquisas sugerem que isso é eficaz para melhorar o desempenho dos modelos de tradução automática.¹¹

Ampliações de texto mistos são outra estratégia. Essa abordagem implementa métodos de exclusão e inserção baseados em regras, empregando embeddings de redes neurais. Especificamente, transformadores pré-treinados (por exemplo, BERT) geram embeddings em nível de palavra ou sentença, transformando textos em pontos vetoriais, como em um modelo de bag of words. A transformação de texto em pontos vetoriais geralmente visa capturar similitude linguística, ou seja, palavras ou sentenças mais próximas umas das outras no espaço vetorial são consideradas semanticamente similares ou compartilhando frequências semelhantes. Ampliações mistas interpolam sequências de texto dentro de uma distância especificada entre si para produzir novos dados que são um agregado dos dados de input.¹²

Muitos usuários têm dificuldades em identificar quais estratégias de aumento de dados implementar. As técnicas de aumento de dados variam em eficácia entre conjuntos de dados e tarefas? Pesquisas comparativas sobre técnicas de aumento de dados sugerem que múltiplas formas de aumento têm um impacto positivo maior do que uma única técnica, mas determinar a combinação ideal de técnicas depende do conjunto de dados e da tarefa.¹³ Mas como selecionar as técnicas ideais?

Para abordar essa questão, a pesquisa tem se voltado para o aumento de dados automatizado. Uma abordagem automatizada de aumento utiliza aprendizado por reforço para identificar técnicas de aumento que retornem a maior precisão de validação em um conjunto de dados específico.¹⁴ Essa abordagem demonstrou implementar estratégias que melhoram o desempenho em dados dentro e fora da amostra.¹⁵ Outra abordagem promissora para aumento automatizado identifica e aumenta falsos positivos a partir das saídas de classificadores. Dessa forma, o aumento automático identifica as melhores estratégias para corrigir itens frequentemente classificados de forma incorreta.¹⁶

Mais recentemente, a pesquisa tem se voltado para redes e modelos generativos para identificar estratégias de aumento ideais dependentes da tarefa¹⁷ e da classe¹⁸. Isso inclui trabalhos com redes adversariais generativas (GANs). As GANs são redes de deep learning normalmente usadas para gerar dados sintéticos, e pesquisas recentes investigam seu uso para aumento de dados. Alguns experimentos, por exemplo, sugerem que aumentos sintéticos de dados em conjuntos de imagens médicas melhoram o desempenho de modelos de classificação¹⁹ e segmentação²⁰ mais do que aumentos clássicos. De forma relacionada, pesquisas em aumento de texto utilizam grandes modelos de linguagem (LLMs) e chatbots para gerar dados aumentados. Esses experimentos usam LLMs para gerar amostras aumentadas de dados de entrada com técnicas de mix-up e sinonimização, mostrando um impacto positivo maior em modelos de classificação de texto do que os aumentos clássicos.²¹

Pesquisadores e desenvolvedores adotam amplamente as técnicas de aumento de dados ao treinar modelos para diversas tarefas de aprendizado de máquina. Em contrapartida, os dados sintéticos representam uma área de pesquisa relativamente mais recente. Experimentos comparativos entre dados sintéticos e reais mostram resultados variados: em alguns casos, modelos treinados inteiramente com dados sintéticos superam aqueles treinados com dados reais; em outros casos, o oposto ocorre. Talvez sem surpresa, essa pesquisa sugere que os dados sintéticos são mais úteis quando refletem características dos dados do mundo real.²²