AutoAI RAG 패턴 자동화하기

검색 증강 생성을 통한 정확한 답변 제공

RAG는 대규모 언어 모델의 생성 능력과 근거 문서 컬렉션의 정확성을 결합합니다. RAG 애플리케이션과의 상호 작용은 이 패턴을 따릅니다:

1. 사용자가 앱에 질문을 제출합니다.
2. 검색은 먼저 일련의 근거 문서에서 관련 컨텍스트를 검색합니다.
3. 함께 제공되는 대규모 언어 모델은 관련 정보를 포함하는 답변을 생성합니다.

예를 들어, 이 기능을 위해 제공되는 샘플 노트북은 ' watsonx.ai ' Python ' 클라이언트 라이브러리에 대한 제품 설명서를 ' watsonx.ai ' 솔루션 코딩에 대한 Q&A 앱의 기초 문서로 사용합니다. 패턴 사용자는 문서에서 구체적이고 관련성 있는 정보를 얻을 수 있으며, 생성형 AI 모델이 컨텍스트를 추가하고 자연어로 답변을 제시합니다.

검색 증강 생성을 통해 질문 및 답변 애플리케이션을 개선하는 방법에 대한 자세한 설명과 예시는 검색 증강 생성(RAG)을 참조하세요.

최적의 RAG 구성 검색 자동화하기

RAG에는 선택할 대규모 언어 모델, 근거 문서를 청크하는 방법, 검색할 문서 수 등 다양한 구성 매개변수가 포함되어 있습니다. 다른 사용 사례에 적합한 구성 선택이 데이터에는 적합하지 않을 수 있습니다. 데이터 세트에 가장 적합한 RAG 패턴을 만들려면 가능한 모든 RAG 구성 옵션 조합을 탐색하여 최상의 솔루션을 찾고, 평가하고, 배포할 수 있습니다. 이 과정에는 상당한 시간과 리소스를 투자해야 할 수 있습니다. AutoAI을 사용하여 머신 러닝 모델을 빠르게 학습하고 최적화하는 것처럼, AutoAI 기능을 사용하여 데이터와 사용 사례에 따라 최적의 RAG 솔루션 검색을 자동화할 수 있습니다. 실험을 가속화하면 생산까지 걸리는 시간을 획기적으로 단축할 수 있습니다.

AutoAI 접근 방식의 주요 기능은 다음과 같습니다:

• 제한된 구성 옵션 집합을 완전히 탐색하고 평가하기.
• 변경 사항이 있을 때 신속하게 구성을 재평가하고 수정합니다. 예를 들어, 새로운 모델을 사용할 수 있거나 평가 결과 응답 품질에 변화가 있는 경우 교육 프로세스를 쉽게 다시 실행할 수 있습니다.

AutoAI을 사용하면 실험에서 배포까지 엔드투엔드 흐름을 자동화할 수 있습니다. 다음 다이어그램은 데이터 및 사용 사례에 최적화된 RAG 패턴을 찾기 위한 AutoAI 접근 방식을 3계층으로 설명합니다:

• 기본 수준에는 벡터 저장소(인덱스)를 채우고 대규모 언어 모델이 응답을 생성할 때 사용할 벡터 저장소에서 데이터를 검색하는 데 사용되는 매개변수화된 RAG 파이프라인이 있습니다.
• 다음으로 RAG 평가 지표 및 벤치마킹 도구는 응답 품질을 평가합니다.
• 마지막으로, 하이퍼 파라미터 최적화 알고리즘이 데이터에 가장 적합한 RAG 구성을 검색합니다.

AutoAI RAG 최적화 프로세스

AutoAI RAG를 사용하여 실험을 실행하면 하이퍼 파라미터 최적화 알고리즘을 사용하여 모든 RAG 구성 옵션(예: 그리드 검색을 피함)을 테스트하지 않아도 됩니다. 다음 다이어그램은 선택할 수 있는 16개의 RAG 패턴이 있는 RAG 구성 검색 공간의 하위 집합을 보여줍니다. 실험에서 모든 구성을 평가하면 1부터 16까지 순위가 매겨지며, 가장 높은 순위의 세 가지 구성이 가장 성능이 좋은 것으로 태그가 지정됩니다. 최적화 알고리즘은 평가할 RAG 패턴의 하위 집합을 결정하고 회색으로 표시된 나머지 패턴은 처리를 중지합니다. 이 프로세스는 기하급수적인 검색 공간을 탐색하지 않으면서도 실제로는 더 나은 성능의 RAG 패턴을 선택합니다.

RAG 패턴 검색 자동화를 위한 빠른 경로 사용

AutoAI RAG 패턴 검색을 자동화하기 위한 코드 없는 솔루션을 제공합니다. 빠른 경로를 사용하려면 프로젝트에서 시작하고 AutoAI 인터페이스를 사용하여 접지 및 테스트 문서를 업로드하세요. 기본 구성을 수락하거나 실험 설정을 업데이트합니다. 실험을 실행하여 사용 사례에 가장 적합한 RAG 패턴을 만드세요.

AutoAI SDK를 사용하여 RAG 패턴 코딩하기

샘플 노트북을 사용하여 사용 사례에 맞는 자동화된 RAG 솔루션을 코딩하기 위해 watsonx.ai Python 클라이언트 라이브러리(버전 1.1.11 이상)를 사용하는 방법을 알아보세요.

RAG 실험을 위한 AI 서비스 색인화

RAG 워크플로를 지원하기 위해 인덱싱 AI 서비스를 추론 서비스와 함께 배포할 수 있습니다. 이 서비스를 이용하면 배포 가능한 아티팩트를 통해 벡터 데이터베이스를 새로운 문서로 업데이트할 수 있습니다.

색인 서비스는 새로운 문서를 벡터 데이터베이스에 반영하는 구성 요소입니다. AutoAI 의 RAG 실험은 입력 문서의 일부(최대 100개 파일 또는 1GB)만 샘플링하기 때문에 이 방법이 유용합니다. 인덱싱 서비스를 자동으로 배포하고 일괄 배포에 활용할 수 있습니다.

서비스 작업을 인덱싱하면 생성된 로그 파일이 프로젝트의 네임스페이스에 저장됩니다:

• success_<training_id><hash> 작업이 성공적으로 완료되면
• failure_<training_id><hash> 작업이 실패할 경우

가 새로운 데이터 자산을 가리키는 경우 output_data_reference , 사용자 지정 파일 이름을 선택할 수 있습니다. 기존 데이터 자산이나 연결 자산을 사용하는 것은 지원되지 않으므로 기본 명명 규칙이 적용됩니다.

RAG 실험의 확장

AutoAI 기초 문서를 기반으로 최적화된 RAG 패턴 검색을 자동화합니다. 문서 지식 기반이 실험에 허용된 데이터 한도를 초과하는 경우에도, AutoAI 를 사용하여 RAG 패턴을 찾은 다음, 패턴을 저장할 때 생성된 자동 생성 인덱싱 노트북을 사용하여 더 많은 문서를 인덱싱할 수 있습니다. RAG 패턴은 색인된 문서의 큰 본문에 적용됩니다.

자세한 내용은 RAG 패턴 저장을 참고하세요.

지원되는 기능

AutoAI 의 RAG 프로세스와 함께 제공되는 기능에 대한 세부 사항을 검토하십시오.

지원되는 파운데이션 모델

이 모델은 AutoAI RAG와 함께 사용할 수 있습니다:

• granite-3-3-8b-instruct

• granite-3-8b-instruct

• granite-4-h-small

• llama-3-1-70b-instruct

• llama-3-3-70b-instruct

• llama-3-1-8b-instruct

• llama-4-maverick-17b-128e-instruct-fp8

• mistral-small-3-1-24b-instruct-2503

• mistral-small-3-2-24b-instruct-2506

• mistral-medium-2505

• mistral-medium-2508

• magistral-medium-2509

SQL 지식 기반을 사용하는 경우, 다음 autoai_sql_rag 함수가 포함된 모델을 사용하십시오:

• openai/gpt-oss-120b
• mistralai/mistral-medium-2505
• meta-llama/llama-3-3-70b-instruct
• mistralai/mistral-small-3-1-24b-instruct-2503

다음 단계

• 벡터화된 문서를 저장할 위치를 계획하려면 벡터 저장소 선택하기를 참조하세요.
• ' RAG 실험 만들기(빠른 경로) 참조