목표 기반 에이전트란 무엇인가요?

목표 기반 에이전트는 에이전트 복잡성의 5단계 계층 구조에서 정중앙에 위치합니다. 이러한 에이전트는 미리 정의된 규칙을 따르는 단순 반사 에이전트와 내부 세계의 모델을 추가하는 모델 기반 반사 에이전트보다 더 복잡합니다. 단, 유틸리티 기반 에이전트(소위 유틸리티 함수를 사용하여 트레이드오프를 계산할 수 있음)와 학습 에이전트(주로 강화 학습이나 딥 러닝을 통해 시간이 지남에 따라 적응하고 개선될 수 있음)보다는 덜 복잡합니다.

목표 기반 에이전트는 미래 상태를 고려하는 계획 기능을 추가함으로써 단순한 반사 에이전트를 능가하지만, 목표를 달성하기 위해 사전 프로그래밍된 전략이나 의사결정트리에 의존하는 대신 보다 정교한 에이전트의 동적 평가를 사용합니다. 

목표 기반 에이전트의 예는 로보틱, 특히 창고 자동화 분야에서 찾아볼 수 있습니다. 특정 선반에서 특정 품목을 선택해야 하는 창고 로봇은 로봇 청소기가 벽에 부딪히는 것처럼 즉각적인 장애물에만 반응할 수 있습니다(순수한 '반응형 에이전트'). 하지만 우회 경로를 최소화하고 알려진 장애물을 피하는 경로를 계획하는 것이 더 효율적입니다. 예를 들어, 최신 창고와 같은 동적 환경에서 계획 모듈은 지식 기반을 참조하고, 현재 상태를 관찰하고, 미래 상태를 매핑할 수 있습니다(예: 다른 봇의 계획된 동작의 인식). 이렇게 하면 원하는 결과를 더 효율적으로 달성할 수 있습니다.

목표 기반 에이전트는 다음 4단계로 운영됩니다. 

1. 목표 정의
2. 계획 수립
3. 작업 선택
4. 실행

첫째, 에이전트에게 성공의 정확한 정의가 주어집니다. 효용 기반 에이전트와 달리, 목표 기반 에이전트는 논리적 및 이분법적 조건에서 작동합니다. 단, 목표 기반 에이전트는 한 상태에서 다른 상태로 비트를 뒤집는 것으로 성공을 정의할 수 있지만, 이러한 에이전트의 단일 '목표'가 다소 복잡한 명제 및 1차 논리의 집합이 되는 것을 막을 방법은 없습니다. 예를 들어, 로봇은 '현재 긴급으로 표시된 각 패키지를 해당 재고 위치에서 선적 장소로 배송'이라는 목표를 설정할 수 있습니다. 목표는 근본적으로 이분법적이며(이 목표에서 성공하거나 실패할 수 있음), 여러 구성 요소를 포함하여 복잡성을 허용합니다.

인간 사용자가 목표를 정확하게 정의하는 것도 좋지만, 사람이 막연한 목표('휴일 이행 최적화')를 입력하면 LLM이 그 격차를 해소하고 이를 보다 정확한 목표(들)로 정의(예: '시스템의 일일 처리량 추정', 'P 패키지를 가장 높은 우선순위로 정의', '24시간 내 P 패키지 납품을 목표 설정')하는 것도 가능합니다. 

목표를 설정한 목표 기반 에이전트는 실행으로 이동하기 전에 약간의 계획을 세웁니다. 예를 들어, 창고 예시에서 에이전트는 우선순위가 가장 높은 주문을 적시에 처리할 수 있는 최적의 경로(예: 재고가 있는 선반에서 선적장으로 얼마나 자주 이동해야 하는지 결정)를 선택하기 위해 현재 및 잠재적 조건을 모델링하는 데 시간을 할애합니다.

물론, 계획은 현실이 어떠한지에 따라 그 가치를 발휘합니다. 일부 목표 기반 에이전트는 '보수적'이며 계획이 불가능한 것으로 확인될 때까지 계획을 고수하는 것을 선호하지만, 계획을 방해하는 장애물에 직면했을 때 더 나은 다음 조치를 유연하게 계산하는 '기회주의적' 에이전트는 보다 유연한 접근 방식을 취합니다. 이는 마치 Google 지도가 예상치 못한 교통 체증을 우회하는 경로를 안내하는 것과 같습니다.

창고 로봇의 경우, 기계의 센서가 상황을 실시간으로 모니터링하여 중요한 데이터를 계획 모듈에 피드백하는 데 도움이 될 수 있습니다. 예를 들어, 센서가 하위 목표 '패키지 파악'이 어떤 이유로 실패했음을 감지하면 목표 기반 에이전트는 원인을 진단하거나 대체 접근 방식을 계획하거나 백업을 요청할 수 있습니다.

어떤 유형의 AI 에이전트를 사용할지 결정하는 것은 어떤 유형의 문제를 해결해야 하는지에 달려 있습니다. 구체적인 목표가 주어지면 목표 기반 에이전트의 기반이 되는 AI 모델은 정보에 입각한 결정을 내리고 복잡한 작업을 처리할 수 있지만, 성공의 기준은 간단해야 합니다(주로 이분법적이어야 함).

하지만 실시간 적응성이 매우 중요하거나 최적화해야 할 목표가 여러 개인 상황에서는 비즈니스가 목표 기반 에이전트에서 효용 기반 에이전트와 같은 보다 정교한 옵션으로의 전환을 고려할 수 있습니다. 대표적인 예는 자율주행 자동차입니다. 승객이 자율주행차를 호출할 때는 이용 시간, 가격, 교통 회피, 안전 등 여러 가지 목표를 고려해야 합니다. 최고의 고객 경험을 제공하기 위해 AI 기반 차량은 복잡한 의사 결정 프로세스를 거쳐 가능한 조치의 다양한 트레이드오프를 계산해야 합니다. 이 결과로 도출된 효용 함수가 에이전트의 조치를 결정합니다. 

각 에이전트는 당면한 문제의 복잡성에 맞게 조정되며, 에이전틱 시스템이 에이전트 유형을 '믹스 앤 매치'할 수 없다는 법은 없습니다. 예를 들어, 의료 분야에서 워크플로를 실행하기 위해 목표 기반 에이전트뿐만 아니라 앞서 살펴본 네 가지 유형의 에이전트도 사용하는 병원을 생각해 볼 수 있습니다.

가장 간단한 수준으로, Vitals Monitor라는 반사 에이전트는 단순히 모든 환자의 활력 징후를 모니터링할 수 있습니다. 구체적인 목적은 환자의 심박수가 특정 수준 이하로 떨어지는 경우 경보를 울리는 것입니다. 즉, 의사나 간호사에게 사람의 개입이 필요함을 알릴 수 있습니다. 이러한 에이전트는 간단한 if/then 알고리즘에 의존할 수 있습니다.

한 단계 더 발전하면 Inventory Agent라는 모델 기반 반사 에이전트가 병원의 의약품 및 소모품 재고를 관리할 수 있습니다. 현재 재고, 과거 사용 패턴 및 공급망 파트너의 응답 시간에 대한 내부 모델을 유지 관리하여 보충 주문을 간소화할 수 있습니다.

셋째, Discharge Planner라는 더 높은 수준의 목표 기반 에이전트는 환자 퇴원이라는 단순한 이분법적 목표에서 역방향으로 작동할 수 있습니다. 즉, 사전 프로그래밍된 전략과 의사결정트리에 의존하는 동시에 미래의 상태도 고려하여 모든 필수 하위 작업을 포함하여 실험실, 의약품 및 전문의 승인을 조율합니다. 특정 단계가 지연되면 계획 모듈이 다시 실행되어 새 계획을 수립할 수 있습니다. 목표 기반 에이전트는 이러한 에이전트 중 대다수와 마찬가지로 대규모 언어 모델에서 미세 조정될 가능성이 높습니다.

넷째, BedAssignment Optimizer라는 효용 기반 에이전트는 안전, 만족도 및 처리량을 극대화하기 위해 환자를 다양한 병실에 배정할 수 있습니다. 여러 상품과 복잡한 절충점을 관리해야 하므로, 이 에이전트는 효용 함수와 함께 작동하여 전염성, 직원 배치 수준, 질병 심각도와 같은 변수를 평가합니다.

다섯째, 가장 높은 수준에서는 Intake Assistant라는 학습 에이전트가 머신 러닝을 사용하여 과거 경험에서 패턴을 찾아 분류 질문을 개선하고 고위험 환자를 표시하며 중복 단계를 줄입니다. 하위 레벨 에이전트와 달리 이 학습 에이전트는 진화하는 데이터 세트를 지속적으로 평가하여 인간에게는 보이지 않을 수 있는 심층적인 패턴을 찾아야 합니다. 

이러한 다섯 에이전트는 복잡한 문제를 해결하기 위해 하나의 가상 어시스턴트 세트로서 협업합니다. 멀티 에이전트 시스템은 자연어 처리(NLP) 및 생성형 AI부터 컴퓨팅 비전과 API 도구 호출에 이르기까지 다양한 기능의 통합과 적절한 오케스트레이션을 통해 단순해야 하는 곳에서는 단순하고 복잡해야 하는 곳에서는 복잡성을 띱니다.