기본 모델 튜닝 방법

watsonx.ai 에서 다양한 튜닝 방법과 솔루션에 적합한 방법을 선택하는 방법에 대해 자세히 알아보세요.

기초 모델은 다음과 같은 방법으로 조정할 수 있습니다

저순위 적응( LoRA ) 미세 조정

튜닝 과정에서 기본 모델의 가중치 대신 ‘저순위 어댑터’라고 불리는 모델 매개변수의 대표 하위 집합의 가중치를 변경하여, 특정 작업에 기초 모델을 적용합니다. 추론 시에는 조정된 어댑터의 가중치가 기본 기초 모델의 가중치에 추가되어 작업에 맞게 조정된 출력을 생성합니다. ‘저순위 적응( LoRA )’의 미세 조정 항목을 참조하십시오.

양자화 저순위 적응( QLoRA ) 미세 조정

QLoRA LoRA 의 변형 버전으로, 튜닝 과정에서 필요한 메모리 사용량과 계산 자원을 더욱 줄이기 위해 양자화 기능을 포함하고 있습니다. ‘양자화된 저랭크 적응( QLoRA )’의 미세 조정 내용을 참조하십시오.