Qu’est-ce que l’augmentation des données ?

Dans son sens le plus général, l’augmentation des données désigne des méthodes permettant de compléter des jeux de données dits incomplets en fournissant des points de données manquants afin d’augmenter l’analysabilité du jeu de données.¹ On l’observe dans le domaine du machine learning, en générant des copies modifiées de données préexistantes pour augmenter la taille et la diversité d’un jeu de données. Ainsi, en ce qui concerne le machine learning, les données augmentées peuvent être comprises comme fournissant artificiellement des données du monde réel potentiellement absentes.

L’augmentation des données améliore l’optimisation et la généralisation des modèles de machine learning. En d’autres termes, l’augmentation des données peut réduire le surajustement et améliorer la robustesse du modèle.² Ces grands jeux de données diversifiés se traduisant par une performance améliorée des modèles sont un axiome du machine learning. Néanmoins, pour un certain nombre de raisons, des questions d’éthique et de confidentialité à la simple compilation manuelle des données nécessaires, il peut être difficile d’acquérir des données suffisantes. L’augmentation des données constitue un moyen efficace d’augmenter la taille et la variabilité des jeux de données. D’ailleurs, les chercheurs ont généralement recours à l’augmentation des données pour corriger des jeux de données déséquilibrés.³

De nombreux cadres d’apprentissage profond, tels que PyTorch, Keras et Tensorflow, proposent des fonctions permettant d’augmenter les données, principalement les jeux de données d’images. Le paquet Python Albumentations (disponible sur Github) est également adopté dans de nombreux projets open source. Albumentations permet d’enrichir les données d’images et de textes.

L’augmentation des données est distincte des données synthétiques. Il est vrai que les deux sont des algorithmes génératifs qui ajoutent de nouvelles données à une collection de données afin d’améliorer les performances des modèles de machine learning. Les données synthétiques, quant à elles, font référence à la génération automatique de données entièrement artificielles. Par exemple, l’utilisation d’images générées par ordinateur, .par opposition aux données du monde réel, pour entraîner un modèle de détection d’objets. En revanche, l’augmentation de données copie les données existantes et transforme ces copies pour accroître la diversité et la quantité de données dans un ensemble précis.

Il existe différentes méthodes d’augmentation des données. Les techniques spécifiques utilisées pour augmenter les données dépendent de la nature des données avec lesquelles l’utilisateur travaille. Notez que l’augmentation des données est généralement mise en œuvre lors du prétraitement d’un jeu de données entraîné. Certaines études s’intéressent à l’effet de l’augmentation sur l’ensemble de validation ou de test, mais les applications de l’augmentation en dehors des jeux entraînés sont plus rares.⁴

L’augmentation des données a été largement mise en œuvre dans la recherche pour toute une série de tâches de vision par ordinateur, de la classification d’images à la détection d’objets. À ce titre, de nombreuses recherches expliquent comment les images augmentées améliorent les performances des réseaux neuronaux convolutifs de pointe dans le traitement des images.

Bon nombre de tutoriels et ressources non académiques classent l’augmentation des données d’images en deux catégories : les transformations géométriques et les transformations photométriques (ou espaces colorimétriques). Les deux consistent en une manipulation de fichiers image relativement simple. La première catégorie regroupe les techniques qui modifient l’espace et la disposition de l’image originale, comme le redimensionnement, le zoom ou les changements d’orientation (par exemple, le retournement horizontal). Les transformations photométriques modifient les canaux RVB (rouge-vert-bleu) d’une image. Parmi les exemples de transformation photométrique, citons le réglage de la saturation et la mise en niveaux de gris d’une image.⁵

Certaines sources catégorisent l’injection de bruit avec les transformations géométriques⁶, tandis que d’autres la classent avec les transformations photométriques.⁷ L’injection de bruit intègre des pixels noirs, blancs ou de couleur de manière aléatoire dans une image selon une loi normale.

Comme l’illustre l’injection de bruit, la classification binaire des techniques d’augmentation d’image en lien avec les transformations géométriques et photométriques ne couvre pas toutes les stratégies d’augmentation possibles. Les techniques d’augmentation d’image exclues sont le filtrage de noyau (affiner ou rendre une image floue) et le mélange d’images. Un exemple de cette dernière option est le rognage et l’application de correctifs aléatoires. Cette technique échantillonne de manière aléatoire des sections de plusieurs images pour en créer une nouvelle. Cette nouvelle image est un composite créé à partir des sections échantillonnées des images d’entrée. L’effacement aléatoire est une technique connexe qui supprime une partie aléatoire d’une image.⁸ Ces tâches sont utiles pour la reconnaissance d’images, car les cas d’utilisation réels peuvent nécessiter que des machines identifient des objets partiellement obscurcis.

L’augmentation au niveau d’une instance est un autre type d’augmentation. L’augmentation au niveau de l’instance copie essentiellement des régions étiquetées (par exemple, des cadres de délimitation) à partir d’une image et les insère dans une autre. Une telle approche entraîne l’image à identifier des objets sur différents arrière-plans ainsi que des objets masqués par d’autres objets. L’augmentation au niveau de l’instance est une approche particulièrement importante pour les tâches de reconnaissance dans une région donnée, comme la détection d’objets et les tâches de segmentation d’images.⁹

À l’instar de l’augmentation d’image, l’augmentation de données de texte se compose de nombreuses techniques et méthodes utilisées dans une gamme de tâches de traitement automatique du langage naturel (NLP). Quelques ressources divisent l’augmentation de texte en méthodes basées sur des règles (ou « faciles ») et neuronales. Bien sûr, comme pour la division binaire des techniques d’augmentation d’image, cette catégorisation n’est pas exhaustive.

Les approches basées sur des règles comprennent des techniques de recherche et de remplacement relativement simples, comme la suppression ou l’insertion aléatoire. Elles englobent également le remplacement de synonyme. Dans cette stratégie, un ou plusieurs mots d’une chaîne sont remplacés par leurs synonymes respectifs, tels qu’ils sont enregistrés dans un thésaurus prédéfini, comme WordNet ou la base de données Paraphrase. L’inversion de phrase et la transformation passive, processus qui consiste à permuter l’objet et le sujet, sont également des exemples d’approches basées sur des règles.¹⁰

Selon leur classification, les méthodes neuronales utilisent des réseaux neuronaux pour générer de nouveaux échantillons de texte à partir des données d’entrée. Une méthode neuronale notable est la rétrotraduction. Elle utilise la traduction automatique pour traduire les données d’entrée dans une langue cible, puis dans la langue d’entrée d’origine. De cette façon, la rétrotraduction exploite les variances linguistiques qui aboutissent à des traductions automatiques pour générer des variances sémantiques dans un jeu de données unilingues à des fins d’augmentation. Les recherches suggèrent que cette méthode est efficace pour améliorer les performances d’un modèle de traduction automatique.¹¹

Les augmentations de texte mixtes constituent une autre stratégie. Cette approche déploie des méthodes de suppression et d’insertion basées sur des règles à l’aide d’intégrations de réseaux neuronaux. Plus précisément, les mécanismes pré-entraînés (par exemple, BERT) génèrent des intégrations de texte au niveau des mots ou des phrases, transformant le texte en points vectoriels, comme dans un modèle de bag of words. La transformation du texte en points vectoriels vise généralement à capturer la similitude linguistique, c’est-à-dire que les mots ou les phrases les plus proches dans l’espace vectoriel sont censés partager une signification ou une fréquence similaire. L’augmentation par mélange interpole les chaînes de texte à une distance spécifiée les unes des autres pour produire de nouvelles données regroupant les données d’entrée.¹²

De nombreux utilisateurs ont du mal à identifier les stratégies d’augmentation des données à mettre en œuvre. Les techniques d’augmentation des données varient-elles en efficacité entre les jeux de données et les tâches ? Des recherches comparatives sur les techniques d’augmentation des données suggèrent que plusieurs formes d’augmentation ont un impact positif plus important qu’une seule, mais la détermination de la combinaison optimale de techniques dépend du jeu de données et de la tâche.¹³ Mais comment sélectionner les techniques optimales ?

Pour résoudre ce problème, les recherches se sont tournées vers l’augmentation automatique des données. Une approche d’augmentation automatisée utilise l’apprentissage par renforcement pour identifier les techniques d’augmentation qui renvoient la plus grande précision de validation sur un jeu de données précis.¹⁴ Cette approche a permis de mettre en œuvre des stratégies qui améliorent les performances sur les données dans et hors de l’échantillon.¹⁵ Une autre approche prometteuse de l’augmentation automatisée identifie et augmente les faux positifs à partir des sorties du classificateur. De cette manière, l’augmentation automatique identifie les meilleures stratégies pour corriger les éléments fréquemment mal classés.¹⁶

Plus récemment, les recherches se sont tournées vers les réseaux et les modèles génératifs pour identifier les stratégies d’augmentation optimales dépendantes de la tâche¹⁷ et de la classe¹⁸. Cela inclut le travail avec des réseaux antagonistes génératifs (GAN). Les GAN sont des réseaux d’apprentissage profond généralement utilisés pour générer des données synthétiques, et des recherches récentes étudient leur utilisation dans le cadre de l’augmentation des données. Quelques expériences, par exemple, suggèrent que les augmentations de données synthétiques des ensembles d’images médicales améliorent les performances des modèles de classification¹⁹ et de segmentation²⁰ plus que les augmentations classiques. De la même façon, la recherche sur l’augmentation de texte s’appuie sur de grands modèles de langage (LLM) et des chatbots pour générer des données augmentées. Ces expériences utilisent des LLM pour générer des échantillons augmentés de données d’entrée avec des techniques de mélange et de synonymisation, montrant un impact positif plus important sur les modèles de classification de texte que l’augmentation classique.²¹

Les chercheurs et les développeurs s’appuient régulièrement sur les techniques d’augmentation de données lors de l’entraînement de modèles pour diverses tâches de machine learning. En revanche, les données synthétiques sont un domaine de recherche relativement plus récent. Les expériences comparatives sur des données synthétiques par rapport à des données réelles montrent des résultats mitigés, les modèles entraînés entièrement sur des données synthétiques étant parfois plus performants, parfois moins performants que les modèles entraînés sur des données du monde réel. Sans surprise, cette recherche suggère que les données synthétiques sont plus utiles lorsqu’elles reflètent les caractéristiques des données du monde réel.²²