Qu’est-ce que l’apprentissage par transfert ?

L’apprentissage par transfert a de nombreuses applications, de la résolution de problèmes de régression en science des données à l’entraînement de modèles d’apprentissage profond. La technique est particulièrement intéressante pour ce dernier, compte tenu de la grande quantité de données nécessaires pour créer des réseaux neuronaux profonds.

Les processus d’apprentissage traditionnels établissent un nouveau modèle pour chaque nouvelle tâche sur la base des données étiquetées disponibles. Pourquoi cela ? Parce que les algorithmes de machine learning traditionnels supposent que les données d’entraînement et de test proviennent du même espace de caractéristiques. Par conséquent, si la distribution des données change ou si le modèle entraîné est appliqué à un nouveau jeu de données, les utilisateurs doivent réentraîner un nouveau modèle à partir de zéro, même si la tâche qu’ils tentent d’accomplir est similaire à celle du premier modèle (par exemple, un classificateur de sentiment pour les critiques de films que l’on tenterait d’appliquer aux critiques de chansons). À l’inverse, les algorithmes d’apprentissage par transfert prennent comme point de départ des modèles ou des réseaux déjà entraînés. Ils appliquent ensuite les connaissances de ce modèle acquises dans une tâche ou des données sources initiales (par exemple classer des critiques de films) à une tâche ou à des données cibles nouvelles, mais apparentées (par ex. classer des critiques de chansons).³

• Coûts de calcul. L’apprentissage par transfert réduit les coûts de calcul requis afin de créer des modèles pour de nouveaux problèmes. En réutilisant des modèles ou des réseaux préentraînés pour une tâche différente, les utilisateurs peuvent réduire le temps nécessaire pour entraîner le nouveau modèle, mais aussi la quantité de données, d’unités de processeur et d’autres ressources de calcul nécessaires. Par exemple, un nombre réduit d’« epochs », c’est-à-dire un passage complet à travers un jeu de données, peut être nécessaire pour atteindre le taux d’apprentissage souhaité. De cette manière, l’apprentissage par transfert peut accélérer et simplifier les processus d’entraînement des modèles.
  
  
• Taille du jeu de données. L’apprentissage par transfert permet en particulier d’atténuer les difficultés liées à l’acquisition de jeux de données volumineux. Par exemple, les grands modèles de langage (LLM) nécessitent de grandes quantités de données d’entraînement pour obtenir de bonnes performances. La qualité des jeux de données accessibles au public peut être limitée, et la production de données étiquetées manuellement en quantité suffisante peut être chronophage et coûteuse.
  
  
• Généralisabilité. Si l’apprentissage par transfert facilite l’optimisation des modèles, il peut aussi en accroître la généralisabilité. Étant donné que l’apprentissage par transfert implique le recyclage d’un modèle existant avec un nouveau jeu de données, le modèle recyclé sera constitué de connaissances acquises à partir de plusieurs jeux de données. Il affichera potentiellement de meilleures performances sur une plus grande variété de données que le modèle de base initial (formé sur un seul type de jeu de données). L’apprentissage par transfert peut ainsi empêcher le surapprentissage⁴.

Bien entendu, le transfert de connaissances d’un domaine à un autre ne peut pas compenser l’impact négatif des données de mauvaise qualité. Les techniques de prétraitement et l’ingénierie des caractéristiques, comme l’augmentation des données et l’extraction des caractéristiques, sont toujours nécessaires lors de l’utilisation de l’apprentissage par transfert.

Plutôt que de parler d’inconvénients inhérents à l’apprentissage par transfert, il est plus exact d’affirmer qu’il présentera des résultats négatifs s’il est appliqué de façon erronée. L’apprentissage par transfert fonctionne mieux lorsque trois conditions sont réunies :

• les deux tâches d’apprentissage sont similaires
  
  
• la distribution des données dans les jeux de données source et cible a une variabilité faible
  
  
• un modèle comparable peut être appliqué aux deux tâches

Si ces conditions ne sont pas remplies, l’apprentissage par transfert peut affecter négativement les performances du modèle. On parle alors de transfert négatif. Des recherches en cours proposent une variété de tests pour déterminer si les jeux de données et les tâches remplissent les conditions ci-dessus et ne risquent donc pas d’entraîner un transfert négatif.⁵ Le transfert à distance est une méthode qui a été développée pour corriger le transfert négatif résultant d’une trop grande dissemblance dans les distributions de données des jeux de données source et cible.⁶

Notez qu’il n’existe pas d’indicateur standard permettant de déterminer la similarité entre les tâches pour l’apprentissage par transfert. Quelques études proposent cependant différentes méthodes d’évaluation pour prédire les similitudes entre les jeux de données et les tâches de machine learning, et donc la viabilité de l’apprentissage par transfert.⁷

Il existe trois pratiques ou sous-environnements adjacents de l’apprentissage par transfert. Leurs distinctions les uns par rapport aux autres, mais aussi l’apprentissage par transfert de manière plus générale, résultent en grande partie des changements dans la relation entre le domaine source, le domaine cible et les tâches à accomplir.⁸

• Transfert inductif. Il se produit lorsque les tâches source et cible sont différentes, indépendamment de toute différence ou similitude entre les domaines cible et source (c’est-à-dire les jeux de données). Cela peut se manifester dans les modèles de vision par ordinateur lorsque des architectures préentraînées pour l’extraction de caractéristiques sur de grands jeux de données sont ensuite adoptées pour un entraînement ultérieur sur une tâche spécifique, telle que la détection d’objets. L’apprentissage multitâche, qui consiste à apprendre simultanément deux tâches différentes (telles que la classification des images et la détection d’objets) sur le même jeu de données, peut être considéré comme une forme de transfert inductif⁹.
  
  
• Apprentissage non supervisé. Il est similaire au transfert inductif, car les tâches cible et source sont différentes. Mais dans le transfert inductif, les données sources et/ou cibles sont souvent étiquetées. Comme son nom l’indique, l’apprentissage par transfert non supervisé n’est pas supervisé, ce qui signifie qu’il n’y a pas de données étiquetées manuellement¹⁰. En comparaison, le transfert inductif peut être considéré comme un apprentissage supervisé. La détection des fraudes est une application courante de l’apprentissage non supervisé. En identifiant des schémas communs dans un jeu de données de transactions non étiquetées, un modèle peut apprendre à identifier les comportements divergents, comme une fraude potentielle.
  
  
• Transfert transductif. Cela se produit lorsque les tâches source et cible sont les mêmes, mais que les jeux de données (ou domaines) sont différents. Plus précisément, les données sources sont généralement étiquetées tandis que les données cibles ne le sont pas. L’adaptation au domaine est une forme d’apprentissage transductif, car elle applique les connaissances acquises lors de l’exécution d’une tâche sur une distribution de données à la même tâche sur une autre distribution de données¹¹. Un exemple d’apprentissage transductif par transfert est l’utilisation d’un modèle de classification de texte entraîné et testé avec des critiques de restaurants pour la classification de critiques de films.

L’apprentissage par transfert se distingue du réglage fin. Tous deux, il est vrai, réutilisent des modèles de machine learning préexistants au lieu de former de nouveaux modèles. Mais les similitudes s’arrêtent là. Le réglage fin désigne le processus d’entraînement supplémentaire d’un modèle sur un jeu de données spécifique à une tâche, le but étant d’améliorer les performances de la tâche initiale pour laquelle le modèle a été construit. Par exemple, il est possible de créer un modèle de détection d’objets à usage général en utilisant des ensembles d’images massifs tels que COCO ou ImageNet, puis d’entraîner le modèle résultant sur un jeu de données plus petit et étiqueté, spécifique à la détection de voitures. De cette manière, l’utilisateur effectue le réglage fin d’un modèle de détection d’objets, avec pour but la détection de voitures. En revanche, l’apprentissage par transfert signifie que les utilisateurs adaptent un modèle à un nouveau problème connexe plutôt qu’au même problème.

Il existe de nombreuses applications de l’apprentissage par transfert dans les contextes réels du machine learning et de l’intelligence artificielle. Les développeurs et les data scientists peuvent utiliser l’apprentissage par transfert pour faciliter une myriade de tâches et le combiner avec d’autres approches d’apprentissage, notamment l’apprentissage par renforcement.