RAG vs. 미세 조정 vs. 프롬프트 엔지니어링

생성형 AI 모델은 대부분 인터넷에서 수집한 대규모 데이터 풀을 기반으로 학습합니다. 인공 지능 개발자는 일반적으로 기업의 독점 데이터 및 내부 데이터와 같은 틈새 데이터에 액세스할 수 없습니다. 조직이 특정 요구 사항에 대해 대규모 언어 모델 (LLM)을 적용하려는 경우 원하는 아웃풋과 동작을 생성하기 위해 생성형 AI 모델이 작동 방식을 조정해야 합니다.

프롬프트 엔지니어링, RAG 및 미세 조정은 모두 대상 사용 사례에 맞게 LLM의 아웃풋을 최적화하는 데 도움이 됩니다. 이를 통해 데이터 과학자는 더 나은 다운스트림 성능, 더 높은 도메인별 정확도 및 관련 형식, 언어 또는 규제 요구 사항을 충족하는 아웃풋을 얻을 수 있습니다.

프롬프트 엔지니어링, RAG 및 미세 조정의 차이점은 4가지 주요 구별 영역을 포함합니다.

• 접근 방식

• 목표

• 리소스 요구 사항 

• 애플리케이션

프롬프트 엔지니어링은 입력 프롬프트를 최적화하여 모델을 더 나은 아웃풋으로 조정합니다. LLM을 미세 조정하면 도메인별 데이터 세트로 학습하여 다운스트림 작업의 성능을 향상시킵니다. RAG는 LLM을 데이터베이스에 연결하고 정보 검색을 자동화하여 관련 데이터로 프롬프트를 보강하여 정확성을 높입니다.

RAG, 프롬프트 엔지니어링 및 미세 조정은 모두 같은 광범위한 결과를 가지며, 모델의 성능을 개선하여 사용하는 기업의 가치를 극대화합니다. 하지만 더 구체적으로 말하자면, 프롬프트 엔지니어링은 사용자가 원하는 결과를 모델이 제공하도록 이끌어야 합니다. RAG는 모델이 보다 관련성 있고 정확한 아웃풋을 제공하도록 안내하는 것을 목표로 합니다. 

한편, 미세 조정된 모델은 특정 사용 사례에서 성능을 개선하기 위해 집중된 외부 데이터 세트에 대해 재학습합니다. 세 가지 방법은 상호 배타적이지 않으며 최적의 결과를 위해 결합되는 경우가 많습니다. 

프롬프트 엔지니어링은 세 가지 최적화 기법 중 시간과 리소스가 가장 적게 소모됩니다. 기본 프롬프트 엔지니어링은 추가 컴퓨팅에 투자하지 않고도 수동으로 수행할 수 있습니다.

RAG에는 엔터프라이즈 데이터 세트를 구성하고 LLM을 해당 데이터 소스에 연결하는 데이터 파이프라인을 구축하기 위해 데이터 과학 전문 지식이 필요합니다. 데이터 준비 및 학습 프로세스는 컴퓨팅 집약적이고 시간이 많이 걸리기 때문에 미세 조정이 가장 까다롭습니다.

프롬프트 엔지니어링은 가장 유연하며, LLM에게 처음부터 콘텐츠를 생성하도록 요청할 때와 같이 잠재적으로 다양한 아웃풋이 있는 제약 없는 상황에서 빛을 발합니다. 이미지, 비디오 및 텍스트 생성 성공은 강력한 프롬프트에 달려 있습니다.

미세 조정은 데이터 과학자가 한 가지 작업을 매우 잘 수행하기 위해 모델이 필요한 경우 고도로 집중된 작업을 위한 모델을 연마합니다. RAG는 고객 서비스 챗봇처럼 정확하고, 관련성 있고, 최신 정보가 가장 중요한 경우에 이상적인 솔루션입니다.

프롬프트 엔지니어링은 모델이 행동하는 방법에 대한 명시적인 지침을 제공하는 다양한 방법을 제공합니다. 명확한 지침을 사용하면 리소스 집약적인 검색 시스템이나 훈련에 투자할 필요 없이 모델 동작을 보다 정확하게 조각할 수 있습니다.

RAG은 LLM에 액세스할 수 없었을 독점 실시간 데이터에 연결합니다. RAG 모델은 내부 데이터의 컨텍스트가 추가되므로 더 정확한 답변을 반환할 수 있습니다.

미세 조정된 모델은 일반적으로 도메인별 데이터로 훈련을 적용할 때 GPT 제품군과 같은 해당 기본 모델보다 성능이 뛰어납니다. 외부 지식에 대한 접근성이 높아짐에 따라 미세 조정된 LLM은 특정 도메인과 해당 용어를 더 잘 이해할 수 있습니다.

프롬프트 엔지니어링은 지식 기반을 확장하지 않고도 모델을 원하는 아웃풋으로 안내하는 효과적인 프롬프트를 만드는 프로세스입니다. 프롬프트 엔지니어링 프로세스는 사전 학습된 모델의 매개변수를 크게 변경하지 않습니다.

프롬프트 엔지니어링의 목표는 모델의 아웃풋이 의도한 사용 사례의 특정 요구 사항을 충족하도록 프롬프트를 만드는 것입니다. 추가 훈련과 더 많은 데이터 접근으로는 잘못된 프롬프트를 보상할 수 없습니다.

프롬프트 엔지니어링은 이전 모델 아웃풋을 기반으로 입력 프롬프트의 구조와 내용을 조정하여 작동합니다. 각 반복을 통해 프롬프트 엔지니어는 모델이 이전 입력에 어떻게 응답하는지 학습한 다음 해당 결과를 사용하여 다음 프롬프트에 알립니다. 목표는 명확한 지침을 통해 모델 동작을 수정하는 것입니다.

좋은 프롬프트 엔지니어링은 자연어 처리(NLP) 모델에 정확히 무엇을 해야 할지 알려주는 프롬프트를 기반으로 합니다. 프롬프트 엔지니어링 프로세스는 프롬프트의 내용, 구조 및 언어를 실험하여 모델에서 필요한 아웃풋을 얻는 최적의 형식을 발견하는 과정입니다.

머신 러닝 모델을 훌륭한 저녁 식사를 만들고 싶어하는 야심 찬 가정 요리사와 비교해 보세요. 프롬프트 엔지니어링은 식사 방식을 계획하는 데 도움이 되는 지식이 더 많은 친구나 친척과 유사합니다. 무엇을 어떻게 만들어야 하는지에 대한 확실한 조언이 있으면 열성적인 가정 요리사는 맛있는 것을 만들 가능성이 더 큽니다.

RAG는 LLM을 종종 데이터 레이크하우스에 저장된 조직의 독점 데이터와 같은 다른 데이터에 연결하는 데이터 아키텍처 프레임워크입니다. RAG 시스템은 LLM 프롬프트에 관련된 데이터를 추가하여 LLM이 보다 정확한 답변을 생성할 수 있도록 합니다.

검색 증강 생성은 사용자의 쿼리와 관련된 데이터를 찾은 다음 해당 데이터를 사용하여 더 유익한 프롬프트를 생성하는 방식으로 작동합니다. 정보 검색 메커니즘이 추가되어 LLM에 대한 프롬프트를 보강하고 보다 관련성 높은 응답을 생성하는 데 도움이 됩니다.

RAG 모델은 4단계 프로세스를 통해 응답을 생성합니다.

1. 쿼리: 사용자가 쿼리를 제출하면 RAG 시스템이 시작됩니다.

1. 정보 검색: 복잡한 알고리즘이나 API는 내부 및 외부 지식 기반을 꼼꼼히 찾아 관련 정보를 검색합니다. 

1. 통합: 검색된 데이터가 사용자의 쿼리와 결합되어 RAG 모델에 주어지고 응답됩니다. 이 시점까지 LLM은 쿼리를 처리하지 않았습니다.

1. 응답: LLM은 검색된 데이터를 자체 학습 지식 및 저장된 지식과 결합하여 상황에 맞는 풍부하고 정확한 응답을 생성합니다.

RAG 시스템은 문서를 검색할 때 시맨틱 검색을 사용합니다. 벡터 데이터베이스는 데이터를 유사성 기준으로 구성하므로 키워드가 아닌 의미로 검색할 수 있습니다. 시맨틱 검색 기술을 사용하면 RAG 알고리즘이 과거의 키워드를 쿼리 의도에 맞게 검색하여 가장 관련성이 높은 데이터를 반환합니다.

RAG 시스템에는 광범위한 데이터 아키텍처 구축 및 유지 관리가 필요합니다. 데이터 엔지니어는 조직의 데이터 레이크하우스를 LLM과 연결하고 RAG를 사용하는 데 필요한 데이터 파이프라인을 구축해야 합니다. RAG 시스템에는 올바른 데이터를 찾고 LLM이 데이터로 무엇을 해야 할지 알 수 있도록 정확한 프롬프트 엔지니어링이 필요합니다.

다시 말하면, 생성형 AI 모델이 아마추어 가정 요리사라고 상상해 보세요. 이들은 요리의 기초를 알지만 특정 요리에 대해 훈련받은 요리사라면 갖추었을 최신 정보와 전문 지식이 부족합니다. RAG는 가정 요리사에게 해당 요리에 관한 요리책을 제공하는 것과 같습니다. 요리에 대한 일반적인 지식과 요리책의 요리법을 결합하면 가정 요리사도 자신이 가장 좋아하는 요리를 쉽게 만들 수 있습니다.

미세 조정은 사전 학습된 모델을 더 작고 집중된 학습 데이터 세트로 재학습시켜 도메인별 지식을 제공하는 프로세스입니다. 그런 다음 모델은 매개변수(동작을 제어하는 지침)와 임베딩을 특정 데이터 세트에 더 적합하도록 조정합니다.

미세 조정은 레이블이 지정된 예제의 데이터 세트에 모델을 노출하는 방식으로 이루어집니다. 모델은 새로운 데이터를 기반으로 모델 가중치를 업데이트하면서 초기 학습을 개선합니다. 미세 조정은 정리되고 레이블이 지정된 학습 데이터를 사용하는 지도 학습 방법입니다. 반면에 대부분의 기본 모델은 데이터가 정리되지 않은 상태에서 비지도 학습을 거치고 있어, 모델 스스로 분류해야 합니다.

다시 한 번 AI 모델을 가정집 요리사로 상상해 봅시다. 여기서 미세 조정은 특정 요리의 요리 과정이 될 것입니다. 가정 요리사는 수업을 듣기 전에 요리의 기본에 대해 일반적인 이해를 하고 있습니다. 그러나 요리 수업을 듣고 해당 분야의 지식을 쌓은 후에는 이 유형의 음식을 훨씬 더 능숙하게 요리할 수 있을 것입니다.

모델은 모든 매개변수를 업데이트하여 전체 미세 조정되거나, 가장 관련성이 높은 매개변수만 업데이트하는 방식으로 미세 조정될 수 있습니다. 이 후자의 프로세스는 매개변수 효율적인 미세 조정(PEFT)으로 알려져 있으며 특정 도메인에서 모델을 보다 효과적으로 만드는 비용 효율적인 방법입니다.

모델을 미세 조정하는 작업은 컴퓨팅 집약적이며 여러 대의 강력한 GPU를 동시에 실행해야 할 뿐만 아니라 LLM 자체를 저장하는 메모리가 필요합니다. LLM 사용자는 PEFT를 통해 더 간단한 하드웨어 설정으로 모델을 재학습시키는 동시에 모델의 의도된 사용 사례(고객 지원 또는 감정 분석 등)에서 유사한 성능 업그레이드를 반환할 수 있습니다. 미세 조정은 특히 모델의 예측과 실제 결과 사이의 차이인 편향을 극복하는 데 능합니다. 

사전 학습은 학습 프로세스의 시작 단계에서 이루어집니다. 모델 가중치 또는 매개변수가 무작위로 초기화되고 모델이 초기 데이터 세트에 대한 학습을 시작합니다. 지속적인 사전 학습은 전이 학습이라는 방식으로 훈련된 모델을 새로운 레이블이 지정되지 않은 데이터 세트에 소개합니다. 사전 학습된 모델은 지금까지 학습한 내용을 새로운 외부 정보에 '전이'합니다.

반면에 미세 조정은 레이블이 지정된 데이터를 사용하여 선택한 사용 사례에서 모델의 성능을 개선합니다. 미세 조정은 특정 작업에 대한 모델의 전문 지식을 연마하는 데 탁월하며, 지속적인 사전 학습은 모델의 도메인 전문 지식을 심화할 수 있습니다.