모델 매개변수란 무엇인가요?

머신 러닝 알고리즘은 모델 학습 중에 모델의 매개변수 값을 추정합니다. 학습 또는 최적화 알고리즘은 오류, 비용 또는 손실 함수를 최소화하여 모델의 성능을 최적화하기 위해 매개변수를 조정합니다. 

모델 매개변수를 하이퍼매개변수와 혼동되는 경우가 많습니다. 두 가지 유형의 매개변수 모두 모델의 동작을 제어하지만 상당한 차이점이 있습니다. 

모델 매개변수는 모델 내부에 있으며 학습 데이터에 대한 응답으로 학습 프로세스 중에 모델에 의해 추정됩니다. 모델의 학습 알고리즘은 학습 중에 매개변수 값을 업데이트합니다. 매개변수는 모델이 보이지 않는 데이터에 반응하는 방식(예: 예측 모델이 배포 후 예측을 수행하는 방식)을 제어합니다. 

모델 하이퍼매개변수는 모델 외부에 있으며 하이퍼매개변수 튜닝을 통해 학습 전에 설정합니다. 일부 하이퍼매개변수는 경사 하강 중 학습률 또는 학습 과정의 에포크 수와 같이 학습 중 모델의 동작을 결정합니다. 

다른 하이퍼매개변수는 랜덤 포레스트의 의사 결정 트리 수 ,k-평균 클러스터링의 클러스터 또는 신경망의 숨겨진 레이어와 같은 모델의 형태 구조를 담당합니다. 

모든 딥 러닝 모델이 동일한 모델 매개변수 세트를 공유하는 것은 아닙니다. 대규모 언어 모델(LLM)은 가중치와 편향을 사용하여 데이터를 처리합니다. 반면, 선형 회귀 모델과 지원 벡터 머신(SVM)은 선형 모델 계수나 지원 벡터와 같은 각자의 매개변수를 갖습니다. 

가중치는 모델의 기본 제어 노브 또는 설정으로, 모델이 새로운 데이터를 평가하고 예측하는 방법을 결정합니다. LLM의 핵심 매개변수이며 학습 중에 학습됩니다. LLM은 수백만 개 또는 수십억 개의 가중치를 가질 수 있습니다. 

가중치는 아웃풋에서 데이터 세트에 있는 피처의 상대적 중요성을 설정하는 숫자 변수입니다. 신경망에서 가중치는 뉴런 간의 연결 강도, 즉 한 뉴런의 아웃풋이 다음 뉴런의 입력에 영향을 미치는 정도를 결정합니다. 

편향을 통해 신경망이 모델 가중치 및 입력과 독립적으로 아웃풋을 조정할 수 있습니다. 가중치는 가변 구성인 반면, 편향은 임계값 또는 오프셋 역할을 하는 상수입니다. 편향은 모델이 데이터 세트 전반에서 더 큰 패턴과 추세를 일반화하고 포착하는 데 도움이 됩니다. 

신경망은 활성화 함수를 사용하여 뉴런이 활성화되고 아웃풋을 생성할지를 결정합니다. 편향은 이 함수를 조정하여 뉴런의 입력의 합이 활성화를 트리거하기에 충분한지 관계없이 뉴런이 활성화되도록 함으로써 유연성을 추가합니다. 

편향 매개변수는 알고리즘 편향과는 별개의 개념으로, 모델이 차별적인 결과를 산출하는 경우입니다. 편향은 모델이 데이터에 대해 잘못된 가정을 하여 예측 값과 실제 값 사이에 차이가 발생하는 오류 유형을 가리키는 용어이기도 합니다. 

학습 프로세스를 형성하므로 많은 하이퍼매개변수가 모델 매개변수의 최종 구성에 영향을 미칩니다. 여기에는 다음이 포함될 수 있습니다. 

• 에포크: 학습 중 전체 데이터 세트가 모델을 통과하는 반복 횟수입니다.

• 배치 크기: 각 학습 라운드에서 학습 데이터의 양입니다. 모델은 각 배치 후에 가중치와 편향을 반복적으로 업데이트합니다. 

• 학습률: 모델이 가중치를 업데이트할 수 있는 정도입니다. 

• 모멘텀: 모델의 가중치가 다른 방향으로 반전되지 않고 이전 업데이트와 같은 방향으로 업데이트되는 경향을 말합니다.

매개변수는 모델 성능에 중요한 역할을 합니다. 네트워크의 뉴런이 데이터를 처리하고 아웃풋을 생성하는 방식에 영향을 미칩니다. 데이터 과학에서 입력 데이터는 피처이라고 하는 품질과 특성으로 구성됩니다. 그러나 모든 피처가 데이터를 이해하고 좋은 예측을 하는 데 동일한 관련성이 있는 것은 아닙니다. 

동물을 포유류 또는 어류로 분류하도록 설계된 모델을 생각해 보겠습니다. 포유류와 어류는 모두 척추동물이기 때문에 '척추동물'이라는 피처는 모델의 예측에 영향을 미치지 않습니다. 반대로 모든 어류에는 아가미가 있고 포유류에는 아가미가 없으므로 '아가미 있음'이라는 피처가 모델에 훨씬 더 중요합니다. 

관련성이 높은 정보에 가중치를 부여하면 관련 뉴런 간에 더 강한 연결이 형성됩니다. 결과적으로 연결이 강할수록 해당 뉴런 간에 전달되는 정보의 중요도가 다른 뉴런에 비해 높아집니다. 

매개변수는 다음과 같이 실제적인 관점에서도 모델 성능에 영향을 미칩니다. 

• 과대적합은 모델이 학습 데이터에 너무 가깝게 맞아서 새 데이터로 일반화할 수 없을 때 발생합니다. 모델에 매개변수가 많을수록 과대적합이 발생할 가능성이 높아지거나 심해질 수 있습니다. 즉, 모델이 특정 학습 데이터 세트에 맞게 맞춤화됩니다. 모델 설계자는 교차 검증 및 드롭아웃 정규화와 같은 기법을 사용하여 과대적합을 완화합니다. 

• 매개변수가 더 많은 모델은 더 복잡한 작업을 처리할 수 있습니다. 매개변수 수가 증가하면 모델에서 데이터를 더 미묘하게 이해할 수 있습니다. 하지만 앞서 언급했듯이 과대적합으로 이어질 수 있습니다. 

• 매개변수가 많을수록 모델 크기가 증가하고 더 많은 컴퓨팅 리소스가 필요합니다. ChatGPT와 같은 선도적인 생성형 AI 앱의 강력한 모델은 수십억 개의 매개변수를 가지고 있으며, 엄청난 양의 물과 전기를 소비하는 동시에 수백만 달러의 학습 비용이 듭니다.

기존 머신 러닝 접근 방식에서 모델은 정방향 및 역방향 전파로 구성된 2단계 학습 프로세스를 통해 매개변수를 설정합니다. 

순전파는 모델을 통한 데이터의 이동입니다. 뉴런은 정보를 수신하고, 해당 입력에 대한 가중치를 계산하고, 편향을 추가합니다. 그런 다음 활성화 함수는 해당 값이 뉴런 활성화를 트리거하기에 충분한지를 확인합니다. 충분하다면 뉴런이 활성화되어 네트워크를 통해 아웃풋을 전달합니다. 이 체인은 모델이 최종 아웃풋을 생성할 때까지 계속됩니다. 

두 번째 단계는 역전파 또는 역방향 전파입니다. 이 단계에서는 모델의 오류, 즉 아웃풋과 실제 값 간의 불일치를 계산합니다. 이를 위해 경사하강법 최적화 알고리즘이 손실 함수의 경사도를 측정합니다. 모델은 기울기에 대한 응답으로 가중치와 편향을 업데이트하여 손실 함수를 최소화하고 더 나은 예측을 생성하는 것을 목표로 합니다. 

손실 함수가 성공적으로 최소화되어 최적의 모델 성능을 나타낼 때까지 순전파-역전파 프로세스가 계속됩니다. 모델 성능은 생성된 텍스트의 일관성과 같은 LLM 평가 지표에 따라 판단됩니다.

머신 러닝 연구자는 모델이 최적의 매개변수 구성에 도달하는 데 도움이 될 수 있는 다양한 기법을 확인했습니다. 

• 미세 조정은 더 작은 도메인별 데이터 세트에 대한 추가 학습을 수행하여 학습된 모델을 다운스트림 작업에 맞게 조정합니다. 미세 조정한 모델은 일반화 기능을 유지하면서 새로운 작업을 학습할 수 있을 만큼 매개변수를 업데이트합니다. 

• 정규화는 손실 함수에 페널티를 추가하여 모델의 가중치가 너무 심하게 변경되는 것을 방지합니다. 

• 조기 중지는 모델이 더 이상 개선의 징후를 보이지 않을 때 검증을 종료하여 리소스를 절약하고 수익 감소 가능성을 최소화합니다. 

• 전이 학습은 모델이 이전 지식을 새로운 작업에 적용하도록 장려하여 이미 학습한 내용을 잊어버릴 가능성을 줄입니다. 

• 매개변수 격리는 새로운 작업을 위해 모델을 학습시킬 때 특정 매개변수를 동결하여 매개변수를 업데이트하지 못하게 하고 이전 지식의 손실 가능성을 방지합니다. 

• 다시 보기는 새로운 작업에 대한 학습을 거치는 동안 모델을 주기적으로 이전 데이터의 '메모리 버퍼'에 노출시킵니다. 버퍼는 새 데이터에 혼합되어 모델의 메모리를 새로 고치고 과장된 가중치 조정을 방지합니다. 

• 양자화는 학습된 모델의 가중치를 덜 정확한 값으로 대체하여 지식을 보존하면서 컴퓨팅 요구 사항을 줄입니다. 일반적으로 양자화는 고정밀 형식을 낮은 저정밀 형식으로 매핑하는 관행입니다. 

• 교차 검증은 학습 데이터를 폴드라고 하는 하위 집합으로 나눕니다. 하나는 학습용이고 다른 하나는 테스트용입니다. 이 프로세스는 서로 다른 데이터 그룹화를 사용하여 여러 번 반복됩니다. 

• 하이퍼매개변수 튜닝은 모델의 하이퍼매개변수를 최적화하는 프로세스입니다. 최적의 하이퍼매개변수는 학습 후 최적의 모델 매개변수 값으로 이어집니다.