¿Qué es el aumento de datos?

En su sentido más general, el aumento de datos se refiere a métodos para complementar los llamados conjuntos de datos incompletos proporcionando puntos de datos faltantes para incrementar la analizabilidad del conjunto de datos¹. Esto se manifiesta en el aprendizaje automático al generar copias modificadas de datos preexistentes para aumentar el tamaño y la diversidad de un conjunto de datos. Por lo tanto, con respecto al aprendizaje, los datos aumentados pueden entenderse como el suministro artificial de datos potencialmente ausentes del mundo real.

El aumento de datos mejora la optimización y generalización del modelo de aprendizaje automático. En otras palabras, el aumento de datos puede reducir el sobreajuste y mejorar la robustez del modelo². El hecho de que los conjuntos de datos grandes y diversos equivalgan a un mejor rendimiento del modelo es un axioma del aprendizaje automático. Sin embargo, por varias razones, desde preocupaciones respecto de los aspectos de ética y privacidad hasta simplemente el tardado esfuerzo para compilar manualmente los datos necesarios, adquirir suficientes datos puede ser una tarea difícil. El aumento de datos proporciona un medio eficaz para aumentar el tamaño y la variabilidad del conjunto de datos. De hecho, los investigadores utilizan ampliamente el aumento de datos para corregir conjuntos de datos desequilibrados³.

Muchos marcos de aprendizaje profundo, como PyTorch, Keras y Tensorflow proporcionan funciones para aumentar los datos, principalmente conjuntos de datos de imágenes. El paquete Python Ablumentations (disponible en Github) también se adopta en muchos proyectos de código abierto. Las albumentaciones permiten aumentar los datos de imagen y texto.

Tenga en cuenta que el aumento de datos es distinto de los datos sintéticos. Es cierto que ambos son algoritmos generativos que agregan nuevos datos a una recopilación de datos para mejorar el rendimiento de los modelos de aprendizaje automático. Sin embargo, los datos sintéticos se refieren a la generación automática de datos completamente artificiales. Un ejemplo es el uso de imágenes generadas por computadora, en lugar de datos del mundo real, para entrenar un modelo de detección de objetos. Por el contrario, el aumento de datos copia los datos existentes y transforma esas copias para aumentar la diversidad y la cantidad de datos en un conjunto determinado.

Existen diversos métodos para el aumento de datos. Las técnicas específicas empleadas para aumentar los datos dependen de la naturaleza de los datos con los que trabaja un usuario. Tenga en cuenta que el aumento de datos generalmente se implementa durante el preprocesamiento en el conjunto de datos de entrenamiento. En algunos estudios se investiga el efecto del aumento en el conjunto de validación o prueba, pero las aplicaciones de aumento fuera de los conjuntos de entrenamiento son más escasas⁴.

El aumento de datos se ha aplicado ampliamente en la investigación para diversas tareas de visión artificial, desde la clasificación de imágenes hasta la detección de objetos. En este sentido, existen numerosas investigaciones sobre la manera en que las imágenes aumentadas mejoran el rendimiento de las redes neuronales convolucionales (CNN, sigla en inglés de convolutional neural networks) más avanzadas en el procesamiento de imágenes.

Muchos tutoriales y recursos no académicos clasifican el aumento de datos de imágenes en dos categorías: transformaciones geométricas y transformaciones fotométricas (o espacio de color). Ambas consisten en una manipulación relativamente simple de archivos de imagen. La primera categoría denota técnicas que alteran el espacio y el diseño de la imagen original, como el redimensionamiento, el zoom o los cambios de orientación (por ejemplo, giro horizontal). Las transformaciones fotométricas alteran los canales RGB (sigla en inglés de red-green-blue; rojo, verde, azul) de una imagen. Los ejemplos de transformación fotométrica incluyen el ajuste de saturación y la escala de grises de una imagen⁵.

Algunas fuentes categorizan la inyección de ruido con transformaciones geométricas⁶, mientras que otras la clasifican con transformaciones fotométricas⁷. La inyección de ruido inserta píxeles aleatorios negros, blancos o de color en una imagen de acuerdo con una distribución gaussiana.

Como ilustra la inyección de ruido, la clasificación binaria de las técnicas de aumento de imágenes en geométricas y fotométricas no cubre toda la gama de posibles estrategias de aumento. Las técnicas de aumento de imagen excluidas son la de filtro o kernel (nitidez o desenfoque de una imagen) y la combinación de imágenes. Un ejemplo de esto último es el recorte aleatorio y la aplicación de parches. Esta técnica toma muestras aleatorias de secciones de varias imágenes para crear una nueva imagen. Esta nueva imagen es una composición hecha a partir de las muestras de las secciones de las imágenes de entrada. Una técnica relacionada es el borrado aleatorio, que elimina una parte aleatoria de una imagen⁸. Estas tareas son útiles para el reconocimiento de imágenes, ya que los casos de uso del mundo real pueden requerir que las máquinas identifiquen objetos parcialmente ocultos.

El aumento a nivel de instancia es otro aumento. El aumento a nivel de instancia esencialmente copia regiones etiquetadas (por ejemplo, cuadros delimitadores) de una imagen y las inserta en otra imagen. Este enfoque entrena a la imagen para identificar objetos contra diferentes fondos, así como objetos ocultos por otros objetos. El aumento a nivel de instancia es un enfoque particularmente destacado para tareas de reconocimiento específicas de la región, como la detección de objetos y las tareas de segmentación de imágenes⁹.

Al igual que el aumento de imágenes, el aumento de datos de texto consta de muchas técnicas y métodos que se emplean en diversas tareas de procesamiento de lenguaje natural (PLN). Algunos recursos dividen el aumento de texto en métodos basados en reglas (o “fáciles”) y neuronales. Por supuesto, al igual que con la división binaria de las técnicas de aumento de imágenes, esta categorización no lo abarca todo.

Los métodos basados en reglas incluyen técnicas relativamente sencillas de buscar y reemplazar, como la eliminación o inserción aleatoria. Estos métodos también abarcan el reemplazo de sinónimos. En esta estrategia, una o más palabras de una cadena se reemplazan por sus respectivos sinónimos registrados en un diccionario de sinónimos predefinido, como WordNet o Paraphrase Database. La inversión y conversión a voz pasiva de oraciones, donde el objeto y el sujeto intercambian posiciones, también son ejemplos de métodos basados en reglas¹⁰.

Según su clasificación, los métodos neuronales emplean redes neuronales para generar nuevas muestras de texto a partir de los datos de entrada. Un método neuronal notable es la retrotraducción o traducción inversa, la cual emplea traducción automática para traducir los datos de entrada a un idioma de destino y luego de vuelta al idioma de entrada original. De esta manera, la traducción inversa aprovecha las variaciones lingüísticas que dan lugar a traducciones automáticas para generar variaciones semánticas en un conjunto de datos de un solo idioma con el fin de aumentarlas. Las investigaciones indican que esto es eficaz para mejorar el rendimiento de los modelos de traducción automática¹¹.

Otra estrategia son los aumentos de textos mixtos. En esta técnica se despliegan métodos de borrado e inserción basados en reglas a través de incrustaciones de redes neuronales. En concreto, los transformadores preentrenados (por ejemplo, BERT) generan incrustaciones de texto a nivel de palabra o frase, transformando el texto en puntos vectoriales, como en un modelo bag of words. La transformación de texto en puntos vectoriales suele tener como objetivo captar la similitud lingüística, es decir, se cree que las palabras o frases más cercanas entre sí en el espacio vectorial comparten significados o frecuencias similares. Los aumentos mixtos interpolan cadenas de texto situadas a una distancia determinada entre sí para producir nuevos datos que son los datos de entrada acumulados¹².

A muchos usuarios se les dificulta identificar qué estrategias de aumento de datos deben implementar. ¿Las técnicas de aumento de datos varían en eficacia entre conjuntos de datos y tareas? Las investigaciones comparativas sobre técnicas de aumento de datos indican que múltiples formas de aumento tienen un mayor impacto positivo que uno solo, pero determinar la combinación óptima de técnicas depende del conjunto de datos y de la tarea en cuestión¹³. Pero, ¿cómo se seleccionan las técnicas óptimas?

Para abordar este problema, las investigaciones han recurrido al aumento automatizado de datos. Un método de aumento automatizado emplea el aprendizaje por refuerzo para identificar las técnicas de aumento que devuelven la mayor precisión de validación en un conjunto de datos determinado¹⁴. Se demostró que este enfoque implementa estrategias que mejoran el rendimiento tanto en los datos dentro como fuera de la muestra.¹⁵ Otro método prometedor para el aumento automatizado identifica y aumenta los falsos positivos de las salidas del clasificador. De esta manera, el aumento automático identifica las mejores estrategias para corregir los elementos que se clasifican erróneamente con frecuencia¹⁶.

Más recientemente, las investigaciones han recurrido a las redes y modelos generativos para identificar estrategias de aumento óptimas dependientes de la tarea¹⁷ y de la clase¹⁸. Esto incluye trabajar con redes generativas antagonistas (GAN, sigla en inglés de generative adversarial network). Las GAN son redes de aprendizaje profundo que suelen emplearse para generar datos sintéticos, y en investigaciones recientes se estudia su uso para el aumento de datos. Algunos experimentos, por ejemplo, indican que el aumento de datos sintéticas de conjuntos de imágenes médicas mejoran el rendimiento de los modelos de clasificación¹⁹ y segmentación²⁰ más que los aumentos tradicionales. En relación con lo anterior, las investigaciones sobre el aumento de texto aprovechan los modelos de lenguaje grandes (LLM) y los chatbots para generar datos aumentados. Estos experimentos emplean LLM para generar muestras aumentadas de datos de entrada con técnicas de combinación y sinonimización, lo que muestra un mayor impacto positivo para los modelos de clasificación de textos que el aumento tradicional²¹.

Los investigadores y desarrolladores adoptan ampliamente técnicas de aumento de datos al entrenar modelos para diversas tareas de aprendizaje automático. Por el contrario, los datos sintéticos son un área de investigación comparativamente más nueva. Los experimentos comparativos con datos sintéticos y reales muestran resultados mixtos: los modelos entrenados completamente con datos sintéticos a veces tienen un rendimiento superior y a veces inferior al de los modelos entrenados con datos del mundo real. Quizá, como era de esperarse, estas investigaciones indican que los datos sintéticos son más útiles cuando reflejan características de los datos del mundo real²².