Essa combinação imperfeita dos dois paradigmas convencionais de aprendizado de máquina fez com que as várias técnicas agora chamadas coletivamente de "aprendizado autossupervisionado" recebessem sua própria categorização.

A criação do termo é frequentemente atribuída a Yann LeCun, cientista da computação ganhador do Prêmio Turing e figura-chave no advento do deep learning,¹ que declarou ser necessário separar o SSL do aprendizado verdadeiramente não supervisionado (que ele chamou de "um termo carregado e confuso").² O nome (e o conceito formal) pode ter sua origem em um artigo de 2007 de Raina, et al, intitulado "Self-taught learning: Transfer learning from unlabeled data".³ Algumas estruturas de aprendizado de máquina agora consideradas SSL, como os codificadores automáticos, são anteriores à existência do termo em si em vários anos.

O aprendizado autossupervisionado é um subconjunto do aprendizado não supervisionado: todas as técnicas de aprendizado autossupervisionado são aprendizados não supervisionados, mas a maior parte do aprendizado não supervisionado não implica em autossupervisão.

Nem o aprendizado não supervisionado nem o autossupervisionado usam rótulos no processo de treinamento: ambos os métodos aprendem correlações e padrões intrínsecos nos dados não rotulados, em vez de correlações impostas externamente a partir de conjuntos de dados anotados. Além desse foco compartilhado em dados não rotulados, as diferenças entre o aprendizado autossupervisionado e o não supervisionado refletem amplamente as diferenças entre o aprendizado não supervisionado e o supervisionado.

Os problemas que usam o aprendizado não supervisionado convencional não medem os resultados em relação a nenhuma verdade absoluta pré-conhecida. Por exemplo, um modelo de associação não supervisionado poderia alimentar um mecanismo de recomendação de comércio eletrônico, aprendendo quais produtos são frequentemente comprados juntos. A utilidade do modelo não é derivada da replicação de previsões humanas, mas da descoberta de correlações não aparentes para observadores humanos.

O aprendizado autossupervisionado mede os resultados em relação a uma verdade absoluta, embora seja implicitamente derivado de dados de treinamento não rotulados. Assim como os modelos supervisionados, os modelos autossupervisionados são otimizados usando uma função de perda: um algoritmo que mede a divergência ("perda") entre a verdade absoluta e as previsões do modelo. Durante o treinamento, os modelos autossupervisionados usam o gradiente decrescente durante a retropropagação para ajustar os pesos do modelo de forma a minimizar a perda (e, assim, aumentar a precisão).

Devido a essa diferença fundamental, os dois métodos se concentram em casos de uso diferentes: os modelos não supervisionados são usados para tarefas como agrupamento, detecção de anomalias e redução de dimensionalidade, que não exigem uma função de perda, enquanto os modelos autossupervisionados são usados para tarefas de classificação e regressão típicas do aprendizado supervisionado.

Embora o aprendizado supervisionado e o autossupervisionado sejam amplamente usados para os mesmos tipos de tarefas e ambos exijam uma verdade absoluta para otimizar o desempenho por meio de uma função de perda, os modelos autossupervisionados são treinados com dados não rotulados, enquanto o aprendizado supervisionado requer um conjunto de dados rotulados para treinamento.

Os conjuntos de dados rotulados são altamente eficazes no treinamento de modelo: a anotação de dados de treinamento permite que um modelo aprenda diretamente os principais recursos e correlações que essas anotações refletem. Ao minimizar a divergência entre as previsões do modelo e as "previsões" anotadas à mão por especialistas humanos durante o treinamento, os modelos supervisionados aprendem a fazer inferências corretas sobre novos dados de input (não rotulados).

Embora a abordagem supervisionada de última geração possa produzir uma alta precisão, a anotação de grandes quantidades de treinamento costuma ser um gargalo no processo de pesquisa. Por exemplo, em tarefas de visão computacional como a segmentação de instâncias que requerem previsões específicas por pixel, a anotação dos dados de treinamento deve ser feita no nível do pixel. É um processo caro e demorado, e limita tanto a quantidade de dados de treinamento disponíveis quanto a capacidade da maioria das empresas e pesquisadores de obtê-los.

Por outro lado, os modelos autossupervisionados usam várias técnicas para obter sinais de supervisão a partir da estrutura dos próprios dados de input, evitando totalmente os rótulos. Por exemplo, ocultando (ou “mascarando”) aleatoriamente partes de uma frase e encarregando um modelo autosupervisionado de prever as palavras ocultas, usando a frase original (sem rótulo) como verdade absoluta.

Diferentemente do aprendizado autossupervisionado, que não envolve dados rotulados por humanos, o aprendizado semissupervisionado usa dados rotulados e não rotulados para treinar os modelos. Por exemplo, um modelo semissupervisionado pode usar uma pequena quantidade de pontos de dados rotulados para inferir rótulos para o restante de um conjunto de dados de treinamento não rotulados e, em seguida, usar todo o conjunto de dados para aprendizado supervisionado. Embora suas motivações sejam semelhantes, pois ambas as abordagens contornam a necessidade de um grande conjunto de dados rotulados no aprendizado supervisionado, suas respectivas metodologias são diferentes.

O objetivo do aprendizado autossupervisionado é minimizar ou substituir completamente a necessidade de dados rotulados. Embora os dados rotulados sejam relativamente escassos e caros, os dados não rotulados são abundantes e relativamente baratos. Basicamente, as tarefas de pré-texto produzem "pseudo-rótulos" a partir de dados não rotulados. O termo "pré-texto" implica que a tarefa de treinamento não é (necessariamente) útil por si só: ela é útil somente porque ensina representações de dados de modelos que são úteis para os propósitos das tarefas posteriores. As tarefas de pré-texto também são, portanto, muitas vezes chamadas de aprendizado de representação.

Os modelos pré-treinados com SSL geralmente são ajustados para suas tarefas específicas posteriores: esse ajuste fino geralmente envolve aprendizado supervisionado real (embora com uma fração dos dados rotulados necessários para treinar um modelo apenas com aprendizado supervisionado).

Embora a disciplina de SSL seja diversa tanto em termos de metodologia quanto de casos de uso, os modelos treinados com SSL usam uma (ou ambas) das duas técnicas de aprendizado de máquina: aprendizado autopreditivo e aprendizado contrastivo.

Também conhecido como aprendizado autossupervisionado autoassociativo, os métodos de autopredição treinam um modelo para prever parte de uma amostra de dados individual, com informações sobre suas outras partes. Os modelos treinados com esses métodos são, em geral, modelos generativos, e não discriminativos.

Yann LeCun caracterizou os métodos autossupervisionados como uma prática estruturada de "preencher os espaços em branco". Em linhas gerais, ele descreveu o processo de aprendizado de representações significativas a partir da estrutura subjacente de dados não rotulados em termos simples: "finja que há uma parte do input que você não conhece e preveja isso." ⁴ Por exemplo:

• Prever qualquer parte do input a partir de qualquer outra parte
• Prever o futuro com base no passado
• Prever o mascarado a partir do visível
• Prever qualquer parte oculta a partir de todas as partes disponíveis

Os sistemas autossupervisionados criados com base nessas filosofias geralmente empregam determinadas arquiteturas de modelos e técnicas de treinamento.
 

Codificadores automáticos
Um codificador automático é uma rede neural treinada para comprimir (ou codificar) dados de input e, em seguida, reconstruir (ou decodificar) o input original usando essa representação comprimida. Eles são treinados para minimizar o erro de reconstrução, usando o próprio input original como verdade absoluta.

Embora as arquiteturas de codificadores automáticos variem, elas normalmente introduzem alguma forma de gargalo: à medida que os dados atravessam a rede do codificador, a capacidade de dados de cada camada é progressivamente reduzida. Isso força a rede a aprender apenas os padrões mais importantes ocultos nos dados do input – chamados de variáveis latentes ou espaço latente – para que a rede do decodificador possa reconstruir com precisão o input original, apesar de agora ter menos informações.

As modificações nessa estrutura básica permitem que os codificadores automáticos aprendam recursos e funções úteis.

• Os codificadores automáticos de eliminação de ruído recebem dados de input parcialmente corrompidos e são treinados para restaurar o input original removendo informações inúteis ("ruído"). Isso reduz o excesso de ajuste e torna esses modelos úteis para tarefas como a restauração do input de imagens e dados de áudio corrompidos.
• Enquanto a maioria dos codificadores automáticos codificam modelos discretos de espaço latente, os codificadores automáticos variacionais (VAEs) aprendem modelos contínuos de espaço latente: ao codificar representações latentes de dados de input como uma distribuição de probabilidade, o decodificador pode gerar novos dados por meio da amostragem de um vetor aleatório dessa distribuição.
   

Autoregressão
Os modelos autorregressivos usam o comportamento passado para prever o comportamento futuro. Eles trabalham com a lógica de que qualquer dado com uma ordem sequencial inata – como linguagem, áudio ou vídeo – pode ser modelado com regressão.

Os algoritmos de autorregressão modelam dados de séries temporais, usando os valores das etapas de tempo anteriores para prever o valor da etapa de tempo seguinte. Enquanto nos algoritmos de regressão convencionais, como os usados para regressão linear, as variáveis independentes são usadas para prever um valor-alvo (ou variável dependente), na autorregressão as variáveis independente e dependente são basicamente a mesma coisa: ela é chamada de autorregressão porque a regressão é realizada na própria variável.

A autorregressão é usada de forma proeminente em modelos de linguagem causal, como as famílias GPT, LLaMa e Claude de LLMs que se destacam em tarefas como geração de texto e resposta a perguntas. No pré-treinamento, os modelos de linguagem recebem o início de frases de amostra extraídas de dados de treinamento não rotulados e têm a tarefa de prever a próxima palavra, com a próxima palavra "real" da frase de amostra servindo como verdade absoluta.
 

Mascaramento
Outro método de aprendizado autossupervisionado envolve o mascaramento de determinadas partes de uma amostra de dados não rotulada e a tarefa de modelos de prever ou reconstruir as informações ausentes. As funções de perda usam o input original (pré-mascaramento) como verdade absoluta. Por exemplo, os codificadores automáticos mascarados são como uma inversão dos codificadores de áudio de redução de ruído: eles aprendem a prever e a restaurar informações ausentes, em vez de remover informações estranhas.

O mascaramento também é usado no treinamento de modelos de linguagem mascarados: palavras aleatórias são omitidas das frases de amostra e os modelos são treinados para preenchê-las. Embora os modelos de linguagem mascarada, como o BERT (e os muitos modelos criados a partir de sua arquitetura, como o BART e o RoBERTa), geralmente sejam menos hábeis na geração de texto do que os modelos autorregressivos, eles têm a vantagem de serem bidirecionais: podem prever não apenas a próxima palavra, mas também palavras anteriores ou palavras encontradas posteriormente em uma sequência. Isso os torna adequados para tarefas que exigem uma forte compreensão contextual, como tradução, resumo e pesquisa.
 

Previsão de relacionamento inato
A previsão de relacionamento inato treina um modelo para manter sua compreensão de uma amostra de dados depois que ela é de alguma forma transformada. Por exemplo, girar uma imagem de input e solicitar a um modelo que preveja o grau de alteração e a direção da rotação em relação à imagem original.⁵

Os métodos de aprendizado autossupervisionado contrastivo fornecem modelos com várias amostras de dados e os encarregam de prever a relação entre eles. Os modelos treinados com esses métodos geralmente são modelos discriminativos, e não generativos.

Os modelos contrastivos geralmente funcionam com pares de dados-dados para treinamento, enquanto os modelos autoassociativos funcionam com pares de dados-rótulos (em que o rótulo é autogerado a partir dos dados). Usando esses pares de dados-dados, os métodos contrastivos treinam modelos para distinguir entre coisas semelhantes e diferentes.   

Esses pares são frequentemente criados por meio de aumento de dados: aplicação de diferentes tipos de transformação ou perturbações em dados não rotulados para criar novas instâncias ou visualizações aumentadas. Por exemplo, as técnicas comuns de aumento de dados de imagem incluem rotação, corte aleatório, inversão, ruído, filtragem e colorizações. O aumento de dados aumenta a variabilidade dos dados e expõe o modelo a diferentes perspectivas, o que ajuda a garantir que o modelo aprenda a capturar representações semânticas dinâmicas e significativas.
 

Discriminação de instância
Os modelos baseados em discriminação de instância enquadram o treinamento como uma série de tarefas de classificação binária: usando uma amostra de dados como alvo (ou "âncora"), outras amostras de dados são determinadas como "positivas" (correspondentes) ou "negativas" (não correspondentes).

Na visão computacional, esses métodos, como o SimCLR ou o MoCo, normalmente começam com um lote de imagens brutas não rotuladas e aplicam uma combinação aleatória de transformações para gerar pares (ou conjuntos) de amostras de imagens aumentadas. Cada uma dessas imagens aumentadas é então codificada em uma representação vetorial, e uma função de perda contrastiva é usada para minimizar a diferença nas representações vetoriais entre correspondências positivas – pares de imagens aumentadas derivadas da mesma imagem original – e maximizar a diferença entre correspondências negativas.   

Sendo assim, os métodos de discriminação de instância treinam modelos para aprender representações de diferentes categorias que, graças a aumentos de dados aleatórios, são capazes de lidar com variações triviais (como a cor, a perspectiva ou as partes visíveis de uma imagem específica). Assim, essas representações se generalizam muito bem para tarefas posteriores.
 

Aprendizado não contrastivo
De forma um tanto contraintuitiva, o "aprendizado não contrastivo" se refere a um método intimamente relacionado ao aprendizado contrastivo (em vez de, como se poderia supor, ser um apanhado geral dos métodos que não são de aprendizado contrastivo). Os modelos são treinados usando apenas pares positivos, aprendendo a minimizar a diferença entre suas representações - portanto, não­ contrastivos.

Em comparação com o aprendizado contrastivo, a abordagem não contrastiva é relativamente simples: como ela opera somente em amostras positivas, ela usa lotes menores durante o treinamento e não precisa de um banco de memória para armazenar amostras negativas. Isso economiza memória e custo computacional durante o pré-treinamento.

Modelos não contrastivos, como o Bootstrap Your Own Latent (BYOL⁾⁶ e Barlow Twins⁷, alcançaram resultados competitivos com os resultados contrastivos e puramente supervisionados.
 

Aprendizado multimodal
Dados alguns pontos de dados de diferentes tipos – modalidades – os métodos contrastivos podem aprender a mapear entre essas modalidades. Por exemplo, o Contrastive Language-Image Pre-training (CLIP) treina conjuntamente um codificador de imagem e um codificador de texto para prever qual legenda combina com qual imagem, usando milhões de pares não rotulados (imagem, texto) prontamente disponíveis coletados da internet. Após o pré-treinamento, o processamento de linguagem natural (NLP) é usado para fazer referência aos conceitos visuais aprendidos no treinamento (ou mesmo para descrever novos conceitos visuais), tornando os modelos treinados pelo CLIP altamente úteis para uma ampla gama de aplicações de aprendizado por transferência.

O aprendizado contrastivo também tem sido usado para aprender alinhamentos entre vídeo e texto,⁸ vídeo e áudio,⁹ e fala e texto.¹⁰

• Um ano após sua introdução em 2018, o Google implementou o modelo de linguagem mascarada BERT como o mecanismo de NLP para trechos classificados e em destaque na Pesquisa.¹¹ A partir de 2023, o Google continuará usando a arquitetura BERT para alimentar suas aplicações de pesquisa no mundo real^.12

• As famílias LLaMa, GPT e Claude de LLMs são modelos de linguagem autorregressivos. O GPT3 foi treinado principalmente com aprendizado autossupervisionado; o InstructGPT e os modelos subsequentes do GPT-3.5 usados para lançar o ChatGPT ajustaram os modelos pré-treinados usando aprendizado por reforço com feedback humano (RLHF).

• Os modelos autorregressivos também são usados para tarefas de NLP baseadas em áudio, como Speech to Text, bem como modelos Text to Speech como o WaveNet.¹³ O Facebook (Meta) usa o wav2vec para reconhecimento de fala, usando duas redes neurais convolucionais profundas empilhadas uma sobre a outra para mapear o áudio bruto de input para uma representação vetorial. No pré-treinamento autossupervisionado, esses vetores são usados como inputs para tarefas de autoprevisão.¹⁴

• O aprendizado autossupervisionado é um subconjunto em rápido crescimento das técnicas deep learning usadas para imagens médicas, para as quais as imagens anotadas por especialistas são relativamente escassas. No PubMed, Scopus e ArXiv, as publicações que fazem referência ao uso de SSL para classificação de imagens médicas aumentaram em mais de 1.000% de 2019 a 2021.¹⁵

• Os métodos baseados em SSL muitas vezes podem igualar ou exceder a precisão dos modelos treinados usando métodos totalmente supervisionados. Por exemplo, o MoCo original superou os modelos supervisionados em sete tarefas de detecção de objetos e segmentação de imagens nos conjuntos de dados PASCAL, VOC e COCO.¹⁶ Quando ajustados com o uso de dados rotulados para apenas um por cento de todos os dados de treinamento, os modelos pré-treinados com SSL alcançaram mais de 80% de precisão no conjunto de dados ImageNet. Esse desempenho se equipara ao dos modelos de aprendizado supervisionado de referência, como o ResNet50.

• A capacidade de manter a detecção de objetos e a segmentação de imagens bem-sucedidas, apesar das mudanças na orientação de um objeto, é fundamental para muitas tarefas de robótica. O aprendizado autossupervisionado foi proposto como uma maneira eficaz de treinar modelos de visão computacional para entender a rotação sem a coleta demorada de dados rotulados.^{17 18}

• O mascaramento tem sido usado para treinar modelos para entender a trajetória do movimento em vídeos.¹⁹

• Os codificadores automáticos de redução de ruído são um componente fundamental no treinamento de alguns modelos de síntese de imagem de última geração, como o Stable Diffusion.²⁰

• A modelagem autorregressiva tem sido usada para síntese de imagens em modelos como PixelRNN e PixelCNN. O sucesso do PixelCNN fez com que ele se tornasse a base do WaveNet.

• Os codificadores automáticos convolucionais são usados em várias tarefas de processamento de imagens, como pintura e colorização de imagens em escala de cinza.

• Os codificadores automáticos variacionais (VAEs) são uma ferramenta importante na síntese de imagens. O modelo original do DALL-E da OpenAI usou um VAE para gerar imagens. Tanto o DALL-E 1 quanto o DALL-E 2 usam o CLIP no processo de tradução de prompts de linguagem natural em informações visuais.²¹