에이전틱 AI란 무엇인가요?

사전 정의된 제약 조건 내에서 작동하고 사람의 개입이 필요한 기존 AI 모델과 달리 에이전틱 AI는 자율성, 목표 중심 행동 및 적응성을 갖추고 있습니다. '에이전틱'이라는 용어는 이러한 모델이 독립적이고 의도적으로 행동할 수 있는 능력을 나타냅니다.

에이전틱 AI는 대규모 언어 모델(LLM)을 사용하여 동적 환경에서 작동하는 생성형 AI(Gen AI) 기술을 기반으로 합니다. 생성형 모델은 학습된 패턴을 기반으로 콘텐츠를 생성하는 데 중점을 두는 반면, 에이전틱 AI는 특정 목표를 향해 생성형 아웃풋을 적용하여 이 기능을 확장합니다. OpenAI의 ChatGPT와 같은 생성형 AI 모델은 텍스트, 이미지 또는 코드를 생성할 수 있지만, 에이전틱 AI 시스템은 생성된 콘텐츠를 사용하여 외부 도구를 호출하여 복잡한 작업을 자율적으로 완료할 수 있습니다. 예를 들어, 에이전트는 사용자의 일정에 맞춰 에베레스트 산 등반에 최적의 시기를 알려줄 뿐만 아니라, 항공편과 호텔 예약까지 자동으로 진행할 수 있습니다.

에이전틱 시스템은 학습되는 데이터 세트에 포함된 정보에 따라 모델이 제한되는 생성형 시스템에 비해 많은 장점을 가지고 있습니다.

자율적

에이전트 시스템의 가장 중요한 발전은 사람의 지속적인 감독 없이도 자율적으로 작업을 수행할 수 있다는 점입니다. 에이전트 시스템은 장기적인 목표를 유지하고, 다단계 문제 해결 작업을 관리하며, 시간 경과에 따라 진행 상황을 추적할 수 있습니다.

사전 예방적

에이전틱 시스템은 맥락에 따라 정교한 응답이나 행동을 생성하는 LLM의 유연성과 전통적인 프로그래밍의 구조적이고 결정론적이며 신뢰할 수 있는 특성을 결합하여 제공합니다. 이 접근 방식 덕분에 에이전트가 보다 인간처럼 '생각'하고 '행동'할 수 있게 됩니다.

LLM만으로는 외부 도구 또는 데이터베이스와 직접 상호 작용하거나 실시간으로 데이터를 모니터링하고 수집하는 시스템을 설정할 수 없지만, 에이전트는 이를 수행할 수 있습니다. 에이전트는 웹을 검색하고, 애플리케이션 프로그래밍 인터페이스(API)를 호출하며, 데이터베이스를 조회한 후, 이를 바탕으로 결정을 내리고 행동을 실행할 수 있습니다.

전문적

에이전트는 특정 작업을 전문으로 할 수 있습니다. 일부 에이전트는 단순하여 단일 반복 작업을 안정적으로 수행합니다. 지각을 사용하고 기억을 활용하여 더 복잡한 문제를 해결할 수 있는 에이전트도 있습니다. 에이전틱 아키텍처는 작업과 결정을 감독하고 다른 단순한 에이전트를 감독하는 LLM으로 구동되는 '지휘자' 모델로 구성될 수 있습니다. 이러한 아키텍처는 순차적 워크플로에 적합하지만 병목 현상에 취약합니다. 에이전트가 분산된 방식으로 동등하게 조화를 이루며 일하는 수평적 구조로 운영되는 아키텍처도 있지만 이 경우 수직적 계층 구조보다 속도가 느릴 수 있습니다. AI 애플리케이션마다 요구하는 아키텍처가 다릅니다.

적응 가능

상담원은 자신의 경험을 통해 학습하고 피드백을 받아 행동을 조정할 수 있습니다. 올바른 가드레일을 사용하면 에이전트 시스템을 지속적으로 개선할 수 있습니다. 멀티에이전트 시스템은 궁극적으로 광범위한 이니셔티브를 처리할 수 있는 확장성을 갖추고 있습니다.

직관적

에이전트 시스템은 LLM으로 구동되므로 사용자가 자연어 프롬프트를 통해 에이전트와 소통할 수 있습니다. 즉, 선택한 SaaS 플랫폼에 포함된 수많은 탭, 드롭다운, 차트, 슬라이더, 팝업 및 기타 UI 요소 등 전체 소프트웨어 인터페이스를 간단한 언어 또는 음성 명령으로 대체할 수 있다는 뜻입니다. 이론적으로 모든 소프트웨어 사용자 경험은 이제 에이전트와의 '대화'로 단순화될 수 있으며, 에이전트는 필요한 정보를 가져와 이를 바탕으로 조치를 취할 수 있습니다. 새로운 인터페이스와 도구를 배우고 익히는 데 걸리는 시간을 고려하면, 이러한 생산성 향상 효과는 결코 과소평가할 수 없습니다.

에이전틱 AI 도구는 다양한 형태를 취할 수 있으며 서로 다른 프레임워크가 서로 다른 문제에 더 적합하지만, 에이전틱 시스템 작업 수행을 위해서는 다음과 같은 일반적인 단계를 거칩니다.

인식

에이전틱 AI는 센서, API, 데이터베이스 또는 사용자 상호 작용을 통해 환경에서 데이터를 수집하는 것으로 시작합니다. 이 단계를 통해 시스템은 분석하고 조치를 취할 수 있는 최신 정보를 확보할 수 있습니다.

추론

데이터가 수집되면 AI가 이를 처리해 의미 있는 인사이트를 추출합니다. 자연어 처리(NLP), 컴퓨팅 비전 또는 기타 AI 기능을 사용하여 사용자 쿼리를 해석하고, 패턴을 감지하고, 더 넓은 맥락을 이해합니다. 이 기능은 AI가 상황에 따라 어떤 조치를 취해야 하는지 판단하는 데 도움이 됩니다.

목표 설정

AI는 사전 정의된 목표 또는 사용자 입력을 기반으로 목표를 설정합니다. 그런 다음 의사 결정 트리, 강화 학습 또는 기타 계획 알고리즘을 사용하여 이러한 목표를 달성하기 위한 전략을 개발합니다.

의사 결정

AI는 가능한 여러 작업을 평가하고 효율성, 정확성 및 예측된 결과와 같은 요소를 기반으로 최적의 작업을 선택합니다. 확률 모델, 유틸리티 함수 또는 머신 러닝 기반 추론을 사용하여 최상의 작업 과정을 결정할 수 있습니다.

실행

행동을 선택하고 나면 AI는 외부 시스템(API, 데이터, 로봇 등)과 상호 작용하거나 사용자에게 응답을 제공하는 방식으로 행동을 수행합니다.

학습과 적응

행동을 실행한 후 AI는 결과를 평가하고 피드백을 수집하여 향후 의사 결정을 개선합니다. 시간이 지남에 따라 향후 유사한 작업을 더 효과적으로 처리할 수 있도록 AI는 강화 학습 또는 자기 지도 학습을 통해 전략을 개선합니다.

오케스트레이션

AI 오케스트레이션은 시스템과 에이전트의 조정 및 관리입니다. 오케스트레이션 플랫폼은 AI 워크플로를 자동화하고, 작업 완료까지의 진행 상황을 추적하며, 리소스 사용량을 관리하고, 데이터 흐름과 메모리를 모니터링하고, 장애 이벤트를 처리합니다. 적절한 아키텍처를 갖추면 수십, 수백, 심지어 수천 개의 에이전트가 협력하여 효율적으로 작업할 수 있습니다.

에이전틱 AI 솔루션은 실제 에코시스템의 거의 모든 AI 사용 사례에 배포할 수 있습니다. 에이전트는 복잡한 워크플로 내에서 통합하여 비즈니스 프로세스를 자율적으로 수행할 수 있습니다.

• AI 기반 거래 봇은 실시간 주가와 경제 지표를 분석하여 예측 분석을 수행하고 거래를 실행할 수 있습니다.

• 자율주행 차량에서는 GPS 및 센서 데이터와 같은 실시간 데이터 소스를 활용하여 내비게이션과 안전성을 향상시킬 수 있습니다.

• 의료 분야에서는 에이전트가 환자 데이터를 모니터링하고, 새로운 검사 결과에 따라 치료 추천을 조정하며, 챗봇을 통해 임상의에게 실시간 피드백을 제공할 수 있습니다.

• 사이버 보안에서는 에이전트가 네트워크 트래픽, 시스템 로그, 사용자 행동을 지속적으로 모니터링하여 악성 코드, 피싱 공격, 또는 무단 접근 시도를 나타낼 수 있는 이상 징후를 탐지할 수 있습니다.

• AI는 프로세스 자동화 및 최적화를 통해 공급망 관리의 효율성을 높이고, 공급업체에 자동으로 주문을 넣거나 생산 일정을 조정하여 최적의 재고 수준을 유지할 수 있습니다.

에이전틱 AI 시스템은 기업에 엄청난 잠재력을 제공합니다. 이 시스템은 자율성이 가장 큰 장점이지만, 통제에서 벗어나면 심각한 문제를 초래할 수도 있습니다. 일반적인 AI 위험이 동일하게 적용되지만 에이전트 시스템에는 그 영향이 더 클 수 있습니다.

에이전틱 AI 시스템은 보상 함수를 최대화하는 강화 학습을 사용합니다. 보상 시스템이 올바르게 설계되지 않으면 AI가 허점을 악용하여 의도치 않은 방식으로 '높은 점수'를 달성할 수 있습니다.

몇 가지 예를 살펴보세요.

• 소셜 미디어 참여도를 극대화하도록 설계된 에이전트가 선정적이거나 오해를 불러일으키는 콘텐츠를 우선시해 의도치 않게 허위 정보를 확산

• 속도를 최적화하도록 설계된 창고 로봇이 더 빠르게 이동하려고 제품 손상을 감수

• 수익 극대화를 목표로 하는 금융 거래 AI가 위험하거나 비윤리적인 거래를 수행하여 시장 불안을 초래

• 유해한 발언을 줄이기 위해 설계된 콘텐츠 필터링 AI가 합법적인 논의까지 과도하게 검열

일부 에이전틱 AI 시스템은 자기 강화 메커니즘으로 인해 의도하지 않은 방향으로 행동을 증폭시킬 수 있습니다. 이러한 문제는 AI가 보호 장치 없이 특정 메트릭에 대해 너무 공격적으로 최적화할 때 발생합니다. 또한 에이전트 시스템은 여러 개의 자율 에이전트가 함께 작동하는 경우가 많기 때문에 실패할 가능성이 있습니다. 교통 체증, 병목 현상, 리소스 충돌 등과 같은 모든 오류가 연쇄적으로 발생할 가능성이 있습니다. 모델이 측정 가능한 명확하게 정의된 목표를 갖고 있고, 피드백 루프를 마련하여 시간이 지남에 따라 모델이 조직의 의도에 더 가까워질 수 있도록 하는 것이 중요합니다.