복합 AI 시스템이란 무엇인가요?

대규모 언어 모델(LLM)에 많은 관심이 집중되고 있지만 이러한 대규모 머신 러닝 (ML) 모델에는 한계가 있습니다. 실행 및 개발 비용이 많이 들고 속도가 느립니다. 도메인별 전문 지식이 부족하고 시스템 전반의 여러 단계를 포함하는 복잡한 작업을 처리하는 데 항상 능숙하지는 않습니다.

이러한 제약으로 인해 연구원들은 모놀리식 모델을 각각 특정 역할에 최적화된 다른 모델 및 툴로 보완하는 것이 보다 효과적인 접근 방식을 만들 수 있다는 것을 발견했습니다.

버클리 인공 지능 연구 (BAIR) 연구소의 2024년 블로그 게시물(IBM.com 외부 링크)은 복합 AI 시스템이 어떤 모습일지에 대한 초기의 명확한 비전이었습니다. 이 게시물은 복합 AI 시스템을 구축하면 더 나은 결과를 얻을 수 있으며,AI의 미래에는 조직이 특정 작업에 최적화된 LLM, 검색 시스템, AI 에이전트 및 외부 도구를 통합하는 것이 포함될 것이라고 제시했습니다.

여러 개별 모델과 상호 작용하는 구성 요소를 오케스트레이션하는 데는 수많은 이점이 있습니다.

효율성

특수 모델 간에 작업을 분배함으로써 복합 시스템은 개별 AI 구성 요소에 대한 인지 부하를 줄입니다. 예를 들어, 한 모델은 구조화된 데이터를 분석하는 데 중점을 두는 반면, 다른 모델은 이미지나 텍스트와 같은 비정형 데이터를 해석하는 데 중점을 둘 수 있습니다. 이러한 분업은 단일 모델 시스템에 비해 향상된 성능과 더 높은 정확도로 이어집니다.

LLM은 더 많은 컴퓨팅 리소스가 제공될 경우 그 성능이 매우 뛰어나지만, 확장성 법칙으로 인해 성능 상한선과 수익률 감소에 직면하게 됩니다. 때로는 LLM에 더 많은 컴퓨팅을 투입하기보다는 리소스를 많이 사용하지 않는 다른 모델, 에이전트 또는 툴에 특정 작업을 위임하는 것이 더 바람직할 수 있습니다.

속도

여러 모델을 결합하여 작업을 수행하는 것이 단일 LLM을 학습시키는 것보다 더 빠를 수 있습니다. 또한 복합 시스템은 다양한 유형의 데이터를 동시에 처리할 수 있어 실시간 의사 결정이 가능합니다. 이는 신속한 대응이 필수적인 사기 탐지 같은 AI 애플리케이션이나 지연 시간을 최소화해야 하는 엣지 애플리케이션에서 매우 중요합니다.

다목적성

복합 시스템은 매우 다재다능하며 다양한 사용 사례에 적용할 수 있습니다. 이러한 다용도성 덕분에 복합 AI 시스템은 여러 영역에서 운영을 최적화하려는 기업에서 선호하는 선택입니다.

조직은 사전 훈련된 구성 요소, 오픈 소스 솔루션 및 맞춤형 모듈을 결합하여 사용하는 시스템 설계로부터 이점을 얻을 수 있습니다. 전체 시스템을 점검하지 않고도 기술 발전에 따라 각 구성 요소를 독립적으로 업데이트하거나 교체할 수 있습니다. 다양한 모델에 작업을 분산함으로써 복합 시스템은 개별 구성 요소 장애에 대한 적응성과 복원력의 이점을 누릴 수 있습니다.

검색 증강 생성(RAG)을 포함한 복합 방법은 LLM이 초기 학습 데이터 세트 외부의 데이터 소스에 액세스할 수 있도록 하여 LLM의 능력을 확장합니다. 다양한 모델을 결합하면 개발자가 속도 또는 도메인 전문 지식과 같은 특정 목표에 맞게 최적화할 수 있습니다.

제어

LLM은 다루기 힘들고, 할루시네이션이 나타나기 쉬우며, 항상 쉽게 설명할 수 없는 결정을 내릴 수도 있습니다. 복합 AI 솔루션은 입력을 제어하고 아웃풋을 필터링하는 데 도움이 될 수 있으며, 그 결과 신뢰를 촉진하는 보다 제어된 동작을 수행할 수 있습니다.

복합 AI 시스템은 다음과 같은 실제 사용 사례에서 이미 사용되고 있습니다. 

챗봇

OpenAI의 ChatGPT 와 Microsoft의 Copilot을 포함한 특정 버전의 챗봇은 복합 아키텍처를 기반으로 구축되었습니다. 예를 들어, ChatGPT는 특정 작업을 위한 다양한 도구와 API를 통해 유용성을 확장합니다.

LLM, DALL-E 이미지 생성기 및 코드 인터프리터 플러그인을 함께 제공합니다. RAG를 사용하여 외부 데이터 소스와 지식 기반에 동적으로 액세스합니다. 별도의 AI 모델을 사용하여 응답을 전달하기 전에 유해하거나 부적절한 콘텐츠를 감지하고 필터링합니다.

무인 자동차

이 기술은 아직 주류로 자리 잡지는 않았지만 자율 주행 차량 시스템은 컴퓨팅 비전 모델을 사용하여 차량 주변의 사물을 감지하고 인식합니다. 센서 융합 알고리즘은 카메라, LiDAR, 레이더 및 초음파 센서의 데이터를 결합하여 환경의 포괄적인 3D 지도를 생성하여 상황 인식 능력을 향상시킵니다.

강화 학습 모델은 실시간 상황에 따라 차선 변경, 속도 조절 또는 신호등 정지 시점을 결정하는 등의 의사 결정을 처리합니다.

또한, 자연어 처리(NLP) 기능을 통해 차량은 승객의 음성 명령을 해석하고 응답할 수 있습니다. 이러한 구성 요소는 원활하게 함께 작동하여 방대한 양의 데이터를 처리하고, 지능적인 스냅 결정을 내리고, 직관적인 경험을 제공합니다.

고객 지원

고객 지원의 복합 AI 시스템은 여러 AI 기술을 결합하여 효율적이고 개인화되며 반응이 빠른 서비스를 제공합니다. 예를 들어, NLP 모델은 고객 문의를 분석하여 의도와 주요 세부 정보를 추출하여 시스템이 문제를 정확하게 이해할 수 있도록 합니다.

의도가 확인되면 생성형 AI (Gen AI)로 구동되는 챗봇이 고객과 대화를 나누며 즉각적인 도움을 제공하거나 추가 세부 정보를 전달합니다. 동시에 추천 시스템은 문제 해결 단계, FAQ 문서 또는 고객의 요구에 맞는 제품 추천과 같은 관련 솔루션을 제안합니다.

감정 분석 모델은 고객의 어조와 감정 상태를 평가하여 긴급하거나 불만족스러운 사례의 우선순위를 정하여 사람이 개입할 수 있도록 도와줍니다. 이러한 구성 요소의 조합을 통해 빠르고 지능적이며 공감하는 고객 지원이 가능하여 문제 해결 시간을 단축하는 동시에 높은 수준의 고객 만족도를 유지할 수 있습니다.

공급망 관리

공급망의 복합 AI 시스템은 여러 AI 구성 요소를 사용하여 물류, 재고 관리 및 전반적인 효율성을 최적화합니다. 예를 들어 예측 분석 모델은 과거 판매 데이터, 계절별 추세, 시장 변수를 분석하여 수요를 예측함으로써 정확한 재고 계획을 수립할 수 있습니다.

컴퓨팅 비전 시스템은 창고 운영을 모니터링하여 잘못 배치된 품목이나 손상된 상품과 같은 비효율성이나 오류를 실시간으로 식별합니다. 동시에 경로 최적화 알고리즘은 교통량, 날씨 및 연비와 같은 요소를 고려하여 가장 효율적인 배송 경로를 결정합니다.

또한 NLP는 구매 주문 처리나 문의에 대한 응답 등 공급업체와 고객 간의 커뮤니케이션을 자동으로 처리할 수 있게 해줍니다. 이러한 구성 요소를 통합함으로써 시스템은 공급망 대응력을 개선하고 낭비를 줄이며 적시 배송을 보장하는 동시에 수요 및 외부 조건의 변화에 동적으로 적응할 수 있습니다.

복합 AI 시스템을 설계하려면 여러 AI 모델과 구성 요소를 복잡한 작업을 처리할 수 있는 응집력 있는 프레임워크에 통합해야 합니다. 이러한 프레임워크는 다양한 모델을 결합할 수 있는 인프라를 제공하고 모델 간의 원활한 커뮤니케이션을 보장하는 데 도움이 됩니다.

복합 AI 시스템에서는 시스템의 목표에 따라 프로그래밍된 제어 로직이 모델을 호출하거나 LLM이 '책임자'가 될 수 있습니다.

두 접근 방식에는 뚜렷한 이점이 있으며 AI 시스템 내에서 모델과 기타 구성 요소가 함께 작동할 수 있는 방법은 무궁무진합니다. 따라서 설계자는 접근 방식에 대해 비판적으로 생각하고 다양한 아키텍처와 구성 요소 조합을 실험해 볼 의지가 있어야 합니다.

복합 워크플로가 적용되면 머신 러닝 작업(MLOps)이 더욱 까다로워집니다. 예를 들어, 다양한 유형의 도구와 모델에 메트릭을 적용하기가 어렵습니다. BAIRD 연구원들은 모니터링, 디버깅 및 기타 관련 운영 문제로 인해 발생하는 문제를 해결하는 데 도움이 되는 복합 시스템으로의 전환과 함께 AI 개발의 새로운 단계가 도래한다고 주장합니다.