코드를 이용한 AI 서비스 배포
생성적 AI 응용 프로그램에 맞게 처음부터 맞춤형 AI 서비스를 구축할 수 있습니다. 예를 들어, RAG(Retrieval Augmented Generation)를 사용하는 자산을 배포하는 경우, AI 서비스의 기초 문서에서 답변을 검색하는 로직을 캡처할 수 있습니다.
코드를 이용한 AI 서비스 배포 방법
다음과 같은 방법으로 AI 서비스를 코딩하고 배포할 수 있습니다
수동으로 코딩하고 AI 서비스 배포하기
프로젝트 내에 AI 서비스와 연결을 포함하는 노트북을 만들 수 있습니다. AI 서비스는 RAG 애플리케이션의 논리를 포착하고, 배포 가능한 코드 단위인 생성 기능을 포함합니다. 생성 기능은 배포 공간으로 승격되어 배포를 만드는 데 사용됩니다. 배포는 다른 응용 프로그램에서 액세스할 수 있는 REST API 엔드포인트로 노출됩니다. 추론을 위해 배포된 AI 서비스를 사용하기 위해 REST API 엔드포인트에 요청을 보낼 수 있습니다. 배포된 AI 서비스가 요청을 처리하고 응답을 반환합니다.
자세한 내용은 수동으로 코딩하고 AI 서비스를 배포하기를 참조하세요.
템플릿을 이용한 AI 서비스 코딩 및 배포
watsonx.ai 에서 미리 정의된 템플릿을 사용하여 AI 서비스를 배포할 수 있습니다. AI 서비스 템플릿은 AI 애플리케이션을 위한 사전 구축된 기반을 제공하여 개발자가 처음부터 시작하는 대신 애플리케이션의 핵심 논리에 집중할 수 있도록 합니다. 사전 정의된 구조, 구성, 도구 세트를 제공하는 AI 서비스 템플릿은 AI 서비스 배포 과정을 단순화하고 오류 위험을 줄이며 AI 개발 및 배포의 전반적인 효율성과 일관성을 향상시킵니다.
자세한 내용은 템플릿을 이용한 AI 서비스 코딩 및 배포를 참고하세요.
배포에 적합한 방법 선택하기
AI 서비스를 배포하는 데는 두 가지 접근 방식이 있습니다: 수동 코딩과 개발자 템플릿. 각각의 접근 방식에는 장단점이 있습니다. 배포 방식의 선택은 프로젝트의 구체적인 필요와 요구 사항에 따라 달라집니다. 개발자 템플릿은 사용자 정의 요구 사항이 제한적인 간단한 배포에 적합하며, 수동 코딩은 사용자 정의 요구 사항이 많은 복잡한 배포에 적합합니다.
다음 표는 코드를 사용하여 AI 서비스를 배포하는 세 가지 접근 방식에 대한 비교 요약을 제공합니다
| 접근 방식 | 사용의 용이성 | 사용자 정의 | 확장성 | 시장 출시 기간 |
|---|---|---|---|---|
| 수동 코딩 | 어려움 | 전체 | 높음 | 느림 |
| 개발자 템플릿 | 용이성 | 제한됨 | 제한됨 | 빠름 |