O que é aprendizado por transferência?

O aprendizado por transferência é uma técnica de aprendizado de máquina na qual o conhecimento adquirido em uma tarefa ou conjunto de dados é utilizado para melhorar o desempenho do modelo em outra tarefa relacionada e/ou em um conjunto de dados diferente.¹ Em outras palavras, o aprendizado por transferência aproveita o que foi aprendido em um contexto para melhorar a generalização em outro contexto.² Essa técnica possui diversas aplicações, desde a solução de problemas de regressão em ciência de dados até o treinamento de modelos de deep learning. De fato, é particularmente atraente para este último, dada a grande quantidade de dados necessária para criar redes neurais profundas.

Os processos tradicionais de aprendizado criam um novo modelo para cada nova tarefa, com base nos dados rotulados disponíveis. Isso ocorre porque os algoritmos tradicionais de aprendizado de máquina assumem que os dados de treinamento e teste pertencem ao mesmo espaço de características e, portanto, se a distribuição dos dados mudar ou se o modelo treinado for aplicado a um novo conjunto de dados, os usuários devem treinar um novo modelo do zero, mesmo ao tentar uma tarefa semelhante à do primeiro modelo (por exemplo, classificador de análise de sentimento para resenhas de filmes versus resenhas de músicas). Os algoritmos de aprendizado por transferência, no entanto, utilizam modelos ou redes já treinadas como ponto de partida. Em seguida, aplicam o conhecimento adquirido pelo modelo em uma tarefa ou conjunto de dados de origem inicial (por exemplo, classificação de resenhas de filmes) para uma nova tarefa ou conjunto de dados relacionado (por exemplo, classificação de resenhas de músicas).³

- Custos computacionais. O aprendizado por transferência reduz os custos computacionais necessários para criar modelos para novos problemas. Ao reaproveitar modelos ou redes pré-treinados para lidar com uma tarefa diferente, os usuários podem reduzir a quantidade de tempo de treinamento do modelo, os dados de treinamento, as unidades de processador e outros recursos computacionais. Por exemplo, um número menor de épocas, ou seja, passagens através de um conjunto de dados — pode ser necessário para atingir a taxa de aprendizado desejada. Dessa forma, o aprendizado por transferência pode acelerar e simplificar os processos de treinamento de modelos.

- Tamanho do conjunto de dados. O aprendizado por transferência ajuda a aliviar dificuldades associadas à aquisição de grandes conjuntos de dados. Por exemplo, os grandes modelos de linguagem (LLMs) requerem grandes quantidades de dados de treinamento para atingir um desempenho ideal. Conjuntos de dados públicos de qualidade podem ser limitados, e a produção manual de dados rotulados suficientes pode ser demorada e cara.

- Generalização.. Embora o aprendizado por transferência auxilie na otimização do modelo, ele também pode aumentar sua capacidade de generalização. Como o aprendizado por transferência envolve o retreinamento de um modelo existente com um novo conjunto de dados, o modelo retreinado conterá conhecimento adquirido a partir de múltiplos conjuntos de dados. Ele poderá apresentar um desempenho melhor em uma variedade mais ampla de dados do que o modelo base inicial, treinado em apenas um tipo de conjunto de dados. O aprendizado por transferência pode, assim, inibir o sobreajuste (overfitting).⁴

É claro que a transferência de conhecimento de um domínio para outro não é capaz de compensar o impacto negativo de dados de baixa qualidade. Técnicas de pré-processamento e engenharia de recursos, como por exemplo aumento de dados e extração de características, ainda são necessários ao usar o aprendizado por transferência.

Não se trata tanto de desvantagens inerentes ao aprendizado por transferência, mas sim de possíveis consequências negativas resultantes de sua aplicação incorreta. O aprendizado por transferência funciona melhor quando três condições são atendidas:

• ambas as tarefas de aprendizado são semelhantes
• a distribuição dos conjuntos de dados de origem e destino não variam muito
• um modelo comparável pode ser aplicado a ambas as tarefas

Quando essas condições não são atendidas, o aprendizado por transferência pode afetar negativamente o desempenho do modelo. A literatura se refere a isso como transferência negativa. Pesquisas em andamento propõem uma variedade de testes para determinar se conjuntos de dados e tarefas atendem às condições acima e, portanto, não resultarão em transferência negativa.⁵ A transferência distante é um método desenvolvido para corrigir a transferência negativa que ocorre devido a uma grande dissimilaridade entre as distribuições de dados dos conjuntos de origem e destino.⁶

Vale notar que não existe uma métrica padronizada amplamente aceita para determinar a similaridade entre tarefas no aprendizado por transferência. No entanto, alguns estudos propõem diferentes métodos de avaliação para prever similaridades entre conjuntos de dados e tarefas de aprendizado de máquina, e, assim, avaliar sua viabilidade para aprendizado por transferência.⁷

Existem três práticas ou subconfigurações adjacentes ao aprendizado por transferência. A distinção entre elas, assim como do aprendizado por transferência, resulta, em grande parte, de mudanças na relação entre o domínio de origem, o domínio de destino e as tarefas a serem realizadas.⁸

- Transferência indutiva. Isso ocorre quando as tarefas de origem e destino são diferentes, independentemente de haver diferença ou similaridade entre os domínios de origem e destino (ou seja, os conjuntos de dados). Esse fenômeno pode ser observado em modelos de visão computacional, onde arquiteturas pré-treinadas para extração de características em grandes conjuntos de dados são adotadas para um novo treinamento em uma tarefa específica, como detecção de objetos. O aprendizado multitarefa, que consiste em aprender simultaneamente duas tarefas diferentes (como classificação de imagens e detecção de objetos) no mesmo conjunto de dados, pode ser considerado uma forma de transferência indutiva.⁹

- Aprendizado não supervisionado. Essa abordagem é semelhante à transferência indutiva, pois as tarefas de origem e destino são diferentes. No entanto, na transferência indutiva, os dados de origem e/ou destino costumam ser rotulados. Como o próprio nome indica, o aprendizado por transferência não supervisionado não é supervisionado, o que significa que não há dados rotulados manualmente.¹⁰ Por comparação, a transferência indutiva pode ser considerada como aprendizado supervisionado. Uma aplicação comum do aprendizado não supervisionado é a detecção de fraudes. Ao identificar padrões comuns em um conjunto de dados não rotulado de transações, um modelo pode aprender a identificar comportamentos desviantes como possíveis fraudes.

- Transferência transdutiva. Isso ocorre quando as tarefas de origem e destino são as mesmas, mas os conjuntos de dados (ou domínios) são diferentes. Mais especificamente, os dados de origem geralmente são rotulados, enquanto os dados de destino não são. A adaptação de domínio é uma forma de aprendizado transdutivo, pois aplica o conhecimento adquirido ao realizar uma tarefa em uma distribuição de dados para executar a mesma tarefa em outra distribuição de dados.¹¹ Um exemplo de aprendizado por transferência transdutiva é a aplicação de um modelo de classificação de texto treinado e testado em resenhas de restaurantes para classificar avaliações de filmes.

O aprendizado por transferência é diferente do ajuste fino. Ambos, reconhecidamente, reutilizam modelos de aprendizado de máquina preexistentes em vez de treinar novos modelos. Mas as semelhanças em grande parte param por aí. O ajuste fino refere-se ao processo de treinamento adicional do modelo de um conjunto de dados específico de uma tarefa para melhorar o desempenho da tarefa inicial específica para a qual o modelo foi construído. Por exemplo, pode-se criar um modelo de detecção de objetos de uso geral usando enormes conjuntos de imagens, como COCO ou ImageNet, e treinar ainda mais o modelo resultante em um conjunto de dados menor e rotulado, específico para detecção de carros. Dessa forma, o usuário ajusta o modelo de detecção de objetos para a detecção de carros. Por outro lado, o aprendizado por transferência refere-se a quando os usuários adaptam o modelo a um novo problema relacionado, em vez de ao mesmo problema.

Existem muitas aplicações do aprendizado por transferência em cenários reais de aprendizado de máquina e inteligência artificial. Desenvolvedores e cientistas de dados podem utilizar o aprendizado por transferência para auxiliar em uma ampla gama de tarefas e combiná-lo com outras abordagens, como aprendizado por reforço.