전이 학습이란 무엇인가요?

전이 학습은 데이터 과학의 회귀 문제를 해결하는 것부터 딥 러닝 모델을 훈련하는 것까지 다양한 용도로 사용됩니다. 실제로 심층 신경망을 만드는 데 필요한 대량의 데이터를 고려할 때 후자의 경우 특히 매력적입니다.

기존의 학습 프로세스는 사용 가능한 라벨이 지정된 데이터를 기반으로 각각의 새로운 작업에 대해 새로운 모델을 구축합니다. 이는 기존 머신 러닝 알고리즘이 훈련 데이터와 테스트 데이터가 동일한 주요 공간에서 온다고 가정하기 때문입니다. 따라서 데이터 분포가 변경되거나 학습된 모델이 새 데이터 세트에 적용되는 경우 사용자는 첫 번째 모델과 비슷한 작업을 시도하더라도 새로운 모델을 처음부터 다시 훈련해야 합니다(예: 영화 후기와 노래 후기의 감성 분석 분류기 비교). 그러나 전이 학습 알고리즘은 이미 훈련된 모델이나 네트워크를 시작점으로 사용합니다. 그런 다음 초기 소스 작업 또는 데이터(예: 영화 후기 분류)에서 얻은 해당 모델의 지식을 새롭지만 관련된 대상 작업 또는 데이터(예: 노래 후기 분류)에 적용합니다.³

• 계산 비용. 전이 학습은 새로운 문제에 대한 모델을 구축하는 데 필요한 계산 비용을 줄여줍니다. 사전 훈련된 모델 또는 사전 훈련된 네트워크를 다른 작업을 처리하도록 용도를 변경함으로써 사용자는 모델 훈련 시간, 훈련 데이터, 프로세서 단위 및 기타 컴퓨팅 리소스의 양을 줄일 수 있습니다. 예를 들어, 원하는 학습률을 달성할 때 더 적은 수의 Epoch(예: 데이터 세트를 통과하는)가 필요할 수 있습니다. 이러한 방식으로 전이 학습은 모델 학습 프로세스를 가속화하고 단순화할 수 있습니다.
  
  
• 데이터 세트 크기. 특히 전이 학습은 대규모 데이터 세트를 수집하는 데 따르는 어려움을 완화하는 데 도움이 됩니다. 예를 들어, 대규모 언어 모델(LLM)은 최적의 성능을 얻기 위해 많은 양의 훈련 데이터를 필요로 합니다. 공개적으로 사용 가능한 양질의 데이터 세트는 제한적일 수 있으며, 수동으로 라벨이 지정된 데이터를 충분히 생성하는 데는 시간과 비용이 많이 들 수 있습니다.
• 일반화 가능성. 전이 학습은 모델 최적화에 도움이 되지만 모델의 일반화 가능성을 더욱 높일 수 있습니다. 전이 학습에는 새 데이터 세트로 기존 모델을 재훈련하는 작업이 포함되기 때문에 다시 훈련된 모델은 여러 데이터 세트에서 얻은 지식으로 구성됩니다. 한 가지 유형의 데이터 세트로만 훈련된 초기 기본 모델보다 더 다양한 데이터에서 더 나은 성능을 발휘할 수 있습니다. 따라서 전이 학습을 통해 과적합을 억제할 수 있습니다.⁴

물론 한 도메인에서 다른 도메인으로 지식을 이전한다고 해서 품질이 낮은 데이터의 부정적인 영향을 상쇄할 수는 없습니다. 데이터 증강 및 특징 추출과 같은 전처리 기술과 특징 엔지니어링은 전이 학습을 사용할 때 여전히 필요합니다.

전이 학습에 내재된 단점이 있는 경우보다는 잘못된 적용으로 인해 잠재적으로 부정적인 결과가 발생할 수 있는 경우가 더 많습니다. 전이 학습은 다음 세 가지 조건이 충족될 때 가장 효과적입니다.

• 두 학습 과제가 유사합니다
  
  
• 소스 및 대상 데이터 세트 데이터 분포가 크게 다르지 않습니다
  
  
• 두 작업 모두에 유사한 모델을 적용할 수 있습니다.

이러한 조건이 충족되지 않으면 전이 학습이 모델 성능에 부정적인 영향을 미칠 수 있습니다. 문헌에서는 이를 부정적 전이이라고 합니다. 진행 중인 연구는 데이터 세트와 작업이 위의 조건을 충족하는지 여부를 결정하기 위한 다양한 테스트를 제안하기 때문에 부정적 전이가 발생하지 않습니다.⁵ 원거리 전이는 소스 및 대상 데이터 세트의 데이터 분포가 너무 크게 달라서 발생하는 부정적 전이를 수정하기 위해 개발된 방법 중 하나입니다.⁶

전이 학습을 위한 작업 간의 유사성을 판단하는 널리 사용되는 표준 메트릭은 없습니다. 그러나 소수의 연구에서는 데이터 세트와 머신 러닝 작업 간의 유사성을 예측하는 다양한 평가 방법을 제안하여 전이 학습의 실행 가능성을 제시합니다.⁷

전이 학습에는 세 가지 비슷한 관행 또는 하위 설정이 있습니다. 서로 간의 구별뿐만 아니라, 보다 광범위하게 전이 학습은 주로 소스 도메인, 대상 도메인, 완료해야 할 작업 간의 관계 변화에서 비롯됩니다.⁸

• 유도 전이. 대상 도메인과 소스 도메인 간의 차이점이나 유사성에 관계없이 소스 작업과 대상 작업이 다른 경우입니다(예: 데이터 세트). 이는 대규모 데이터 세트에서 기능 추출을 위해 사전 훈련된 아키텍처가 객체 감지와 같은 특정 작업에 대한 추가 훈련을 위해 채택될 때 컴퓨팅 비전 모델에서 나타날 수 있습니다. 동일한 데이터 세트에서 서로 다른 두 가지 작업(예: 이미지 분류 및 객체 감지)을 동시에 학습하는 멀티태스크 학습은 유도 전이의 한 형태로 간주할 수 있습니다.⁹
  
  
• 비지도 학습. 이는 대상 작업과 소스 작업이 다르기 때문에 유도 전이와 유사합니다. 그러나 유도 전이에서는 소스 및/또는 대상 데이터에 라벨이 지정되는 경우가 많습니다. 이름 그대로 비지도 전이 학습은 지도되지 않는 학습입니다. 즉, 수동으로 라벨이 지정된 데이터가 없습니다.¹⁰ 이에 비해 유도 전이는 지도 학습으로 간주할 수 있습니다. 비지도 학습의 일반적인 응용 분야 중 하나는 사기 탐지입니다. 라벨이 지정되지 않은 거래 데이터 세트에서 공통적인 패턴을 식별함으로써, 모델은 비정상적인 행동을 잠재적인 사기로 식별하는 방법을 추가로 학습할 수 있습니다.
  
  
• 변환적 전이. 이는 소스 작업과 대상 작업이 동일하지만 데이터 세트(또는 도메인)가 다른 경우에 발생합니다. 좀 더 구체적으로 말하자면, 소스 데이터에는 일반적으로 라벨이 지정되고 대상 데이터에는 라벨이 지정되지 않습니다. 도메인 적응은 하나의 데이터 배포에서 작업을 수행하여 얻은 지식을 다른 데이터 배포의 동일한 작업에 적용하는 것으로, 변환적 전이 학습의 한 형태입니다.¹¹ 전이 학습의 예로는 식당 후기를 학습하고 테스트한 텍스트 분류 모델을 영화 후기를 분류하는 데 적용하는 것을 들 수 있습니다.

전이 학습은 미세 조정과 다릅니다. 물론 두 가지 모두 새로운 모델을 학습시키는 것이 아니라 기존의 머신 러닝 모델을 재사용합니다. 그러나 유사점은 대체로 거기서 끝납니다. 미세 조정은 모델이 구축된 초기의 특정 작업에 대한 성능을 개선하기 위해 작업별 데이터 세트에서 모델을 추가로 훈련하는 프로세스를 말합니다. 예를 들어, COCO 또는 ImageNet과 같은 대규모 이미지 세트를 사용하여 범용 객체 감지 모델을 만든 다음, 자동차 감지에 특화된 더 작은 라벨이 지정된 데이터 세트로 결과 모델을 추가로 훈련할 수 있습니다. 이러한 방식으로 사용자는 차량 감지를 위한 물체 감지 모델을 미세 조정합니다. 반면, 전이 학습은 사용자가 동일한 문제가 아닌 새로운 관련 문제에 모델을 적용하는 것을 의미합니다.

실제 머신 러닝과 인공 지능 분야에서 전이 학습은 다양한 용도로 사용됩니다. 개발자와 데이터 과학자는 전이 학습을 사용하여 수많은 작업을 지원하고 강화 학습과 같은 다른 학습 접근 방식과 결합할 수 있습니다.