AI 에이전트 프레임워크: 비즈니스에 적합한 기반 선택

AI 에이전트는 사용자를 대신하여 작업을 자율적으로 수행할 수 있는 프로그램입니다. 이러한 AI 시스템은 복잡한 작업을 수행하기 위해 먼저 일련의 단계로 계획을 고안합니다.

그런 다음 함수 호출을 사용하여 애플리케이션 프로그래밍 인터페이스(API), 데이터 소스, 웹 검색 및 기타 AI 에이전트와 같은 외부 도구에 연결하여 지식의 부족한 부분을 채울 수 있습니다.

자율 에이전트는 실행 계획을 실행한 후 피드백을 통해 학습하고 학습한 정보를 메모리에 저장하여 향후 성능을 개선합니다.

조직은 Python 또는 JavaScript와 같은 프로그래밍 언어를 사용하여 AI 에이전트를 처음부터 구축할 수 있습니다. 그러나 더 빠르고 확장 가능한 접근 방식은 AI 에이전트 프레임워크를 사용하는 것입니다.

에이전트 프레임워크는 AI 에이전트를 개발, 배포 및 관리하기 위한 구성 요소입니다. 이러한 소프트웨어 플랫폼에는 다음과 같이 프로세스를 간소화하고 속도를 높이는 데 도움이 되는 기능이 내장되어 있습니다.

• 에이전틱 AI의 구조, 특성, 능력을 개략적으로 설명하는 사전 정의된 아키텍처

• AI 에이전트와 인간 사용자 또는 다른 에이전트 간의 상호 작용을 용이하게 하는 통신 프로토콜

• 작업 조정을 위한 작업 관리 시스템

• 함수 호출을 위한 통합 도구

• 에이전틱 AI 성능을 추적하는 모니터링 툴

AI 에이전트의 세계로 뛰어들기 전에 목표와 사용 사례에 대해 생각해 보세요. 이상적인 프레임워크는 기능과 단기적 요구 사항 및 장기 목표 간의 균형을 유지합니다.

AI 에이전트 프레임워크를 선택할 때 고려해야 할 몇 가지 측면은 다음과 같습니다.

• 복잡성

• 데이터 개인정보 보호 및 보안

• 사용 편의성

• 원활한 통합

• 성능 및 확장성

AI 에이전트가 수행하기를 원하는 작업과 이러한 작업이 얼마나 복잡한지 식별합니다. 단일 에이전트만으로 간단하게 구현할지, 아니면 다중 에이전트 에코시스템이 필요한지 결정합니다.

다중 에이전트 환경의 경우 필요한 에이전트 상호 작용과 인간의 개입이 여전히 필요한 부분을 맵핑합니다.

예를 들어, 고객 지원 영역에서 발생하는 문제의 심각도를 분류하는 데는 단일 AI 에이전트가 도움이 될 수 있습니다. 하지만 더 강력한 워크플로를 원한다면 여러 에이전트가 포함된 멀티에이전트 시스템을 만들어 문제를 해결하고, 수정 사항을 제안하고, 복잡한 사례를 다른 AI 또는 인간 에이전트에 할당하는 것을 고려할 수 있습니다.

에이전트 프레임워크를 선택할 때는 데이터 개인정보 보호 및 보안을 최우선으로 고려해야 합니다. 저장 및 전송 중인 데이터에 대한 암호화, 액세스 제어, 민감한 정보 제거 등 선택한 프레임워크의 보안 정책과 조치를 확인합니다.

개발팀의 기술 수준을 고려하세요. 예를 들어 CrewAI와 같은 초보자 친화적인 AI 프레임워크는 신속한 프로토타이핑을 위한 노코드 인터페이스와 신속한 배포를 위한 기성 AI 에이전트 템플릿을 제공합니다.

경험이 많은 AI 개발자는 낮은 수준의 제어와 사용자 지정 가능한 코드 옵션을 제공하는 LangGraph와 같은 고급 에이전트 프레임워크를 사용할 수 있습니다.

기존 기술 스택과의 호환성을 기반으로 에이전틱 AI 프레임워크를 평가합니다. 선택한 프레임워크가 현재 데이터 소스, 인프라 및 도구와 얼마나 잘 통합되는지 확인하세요.

에이전틱 AI가 온프레미스 또는 클라우드 등 환경에 어떻게 배포할지, 소규모 또는 대규모 배포가 필요한지를 파악합니다.

선택한 AI 에이전트 프레임워크의 성능을 평가합니다. 실시간 애플리케이션에 대한 응답 시간 또는 지연 시간을 고려하고, 대량의 데이터 또는 여러 개의 동시 요청을 처리할 때 성능이 저하되는지 평가합니다. 단기적으로 초점을 맞출 수도 있지만, 비즈니스가 성장함에 따라 프레임워크가 어떻게 확장되는지 생각해 보세요.

에이전틱 AI는 아직 초기 단계에 있습니다. AI 에이전트의 기반이 되는 기술이 발전함에 따라 이를 뒷받침하는 프레임워크도 발전할 것입니다. 현재 널리 사용되는 AI 에이전트 프레임워크는 다음과 같습니다.

AutoGen은 복잡한 작업을 수행하기 위한 다중 에이전트 AI 애플리케이션을 만들기 위한 Microsoft의 오픈 소스 프레임워크입니다. 아키텍처는 다음과 같이 3개의 계층으로 구성됩니다.

• Core는 확장가능하고 분산된 에이전트 네트워크를 개발하기 위한 프로그래밍 프레임워크로, 에이전트 워크플로를 추적하고 디버깅할 수 있는 도구가 포함되어 있습니다. 비동기 메시징을 사용하여 요청-응답 및 이벤트 기반 에이전트 상호 작용을 모두 지원합니다.

• AgentChat은 Core를 기반으로 구축되었으며 대화형 AI 어시스턴트를 만드는 데 사용할 수 있습니다. 초보자를 위해 제안된 시작점으로, 사전 정의된 동작과 상호 작용 패턴을 가진 기본 단일 에이전트 및 다중 에이전트 팀을 제공합니다.

• Extensions는 Core 및 AgentChat 구성 요소의 구현을 포함하는 패키지로, 외부 라이브러리 및 기타 서비스를 통해 능력과 인터페이스를 더욱 확장합니다. 기본 제공 확장 프로그램과 AutoGen 커뮤니티에서 개발한 확장 프로그램을 사용하거나 직접 만들 수도 있습니다.

AutoGen은 에이전틱 AI 성능 평가 및 벤치마킹을 위한 AutoGen Bench와 에이전트 개발을 위한 노코드 인터페이스인 AutoGen Studio 등 두 가지 편리한 개발자 도구를 제공합니다. AutoGen은 GitHub에서 액세스할 수 있습니다.

CrewAI는 멀티에이전트 AI 솔루션을 위한 오케스트레이션 프레임워크입니다. CrewAI는 AutoGen과 마찬가지로 오픈 소스입니다.

CrewAI의 역할 기반 아키텍처는 에이전틱 AI를 '작업자'의 '크루'로 취급합니다. 크루의 핵심 구성요소는 다음과 같습니다.

• 에이전트는 전문화된 역할이 할당되며 복잡한 워크플로에서 협업할 수 있습니다. 개발자는 자연어를 사용하여 에이전트의 역할, 목표 및 배경 스토리를 간략하게 설명할 수 있습니다.

• 작업은 각 에이전트의 구체적인 책임을 정의합니다. 개발자는 또한 자연어를 사용하여 각 에이전트에 대한 작업 및 예상 아웃풋을 설명할 수 있습니다.

• 프로세스는 에이전트가 함께 작동하는 방식과 작업이 실행되는 방식을 식별합니다. 사전 설정된 순서에 따라 작업을 완료하는 순차적 방식 또는 사용자 지정 관리자 에이전트가 작업 위임, 실행 및 완료를 감독하는 계층적 방식이 있습니다.

CreWAI의 사례 모음 중 하나에는 주식 시장 분석 크루가 포함됩니다. 이 크루는 특정 주식에 대한 데이터를 분석하는 임무를 맡은 시장 분석 에이전트, 데이터 분석을 검증하는 지원 정보를 수집하는 임무를 맡은 검색 에이전트, 분석 및 지원 데이터를 기반으로 단계별 실행 계획을 수립하는 전략 에이전트와 순차적으로 협력합니다.

CrewAI는 Anthropic의 Claude, Google의 Gemini, Mistral의 AI 모델, OpenAI의 GPT 모델, IBM watsonx.ai 파운데이션 모델 등 다양한 대규모 언어 모델(LLM)에 대한 연결을 지원합니다.

이 프레임워크에는 다양한 데이터 소스를 검색하기 위한 검색 증강 생성(RAG) 도구 모음도 있습니다.

CrewAI는 GitHub에서 액세스할 수 있습니다.

LangChain은 ChatGPT 및 AI 에이전트와 같은 챗봇을 포함하여 LLM 기반 애플리케이션을 구축하기 위한 또 다른 오픈 소스 프레임워크입니다.

모듈식 아키텍처를 채택하고 있으며, 각 모듈은 LLM 작업에 필요한 복잡한 개념과 단계를 캡슐화하는 추상화를 나타냅니다.

그런 다음 이러한 모듈식 구성 요소를 함께 연결하여 AI 애플리케이션을 만들 수 있습니다.

LangChain은 간단한 워크플로로 간단한 AI 에이전트를 개발하는 데 유용합니다. 메모리를 애플리케이션에 통합하기 위한 벡터 데이터베이스와 유틸리티에 대한 지원을 제공하여 결과적으로 기록과 컨텍스트를 유지합니다.

LangSmith 플랫폼을 사용하면 디버깅, 테스트 및 성능 모니터링이 가능합니다.

LangChain은 GitHub에서 액세스할 수 있습니다.

LangGraph는 LangChain 에코시스템에 포함되어 있습니다. 멀티에이전트 시스템의 복잡한 워크플로를 조율하는 데 뛰어난 프레임워크입니다.

AI 에이전트의 특정 과제 또는 작업은 노드로 표시되고 이러한 작업 간의 전환은 에지로 표시되는 그래프 아키텍처를 적용합니다.

상태 구성 요소는 모든 상호 작용에서 작업 목록을 유지 관리합니다. 이 유형의 아키텍처는 순환적, 조건부 또는 비선형 워크플로에 적합합니다.

예를 들어, 항공사는 사용자가 항공편을 찾고 예약하는 데 도움이 되는 여행 보조 AI 에이전트를 구축하려고 할 수 있습니다. LangGraph를 사용하면 이러한 각 작업이 노드로 표시되며 이러한 노드에는 특정 작업을 수행하는 여러 에이전트가 있을 수 있습니다.

사용자가 검색 목록에서 항공편을 선택할 수 있도록 인간에게 관련 정보 제공(Human-in-the-loop) 단계를 추가할 수 있으며, 선호에 맞는 항공편이 없는 경우 여행 어시스턴트 에이전트가 쉽게 '항공편 검색' 노드를 다시 변경하여 검색을 다시 실행할 수 있습니다.

LangGraph는 GitHub에서 액세스할 수 있습니다.

LlamaIndex는 생성형 AI(gen AI) 및 에이전틱 AI 솔루션을 구축하기 위한 오픈 소스 데이터 오케스트레이션 프레임워크입니다. 사전 패키징된 에이전트와 도구를 제공하며, 최근에는 다중 에이전트 시스템을 개발하기 위한 메커니즘인 워크플로를 도입했습니다.

LlamaIndex의 워크플로를 구성하는 주요 요소는 다음과 같습니다.

• 단계는 에이전트의 구체적인 작업으로, 워크플로의 기본 구성 요소입니다.

• 이벤트는 단계를 트리거하고 단계가 통신하는 수단입니다.

• 컨텍스트는 워크플로 전반에서 공유되므로 단계는 데이터를 저장, 검색 및 전달하고 실행 전반에 걸쳐 상태를 유지할 수 있습니다.

이벤트 기반 아키텍처는 워크플로 단계를 비동기적으로 수행할 수 있습니다. 즉, 그래프 아키텍처와 달리 단계 간 경로를 정의할 필요가 없으므로 에이전트 작업 간에 보다 유연하게 전환할 수 있습니다.

따라서 LlamaIndex 워크플로는 이전 단계로 자주 루프백하거나 여러 단계로 분기해야 하는 보다 동적인 AI 에이전트 애플리케이션에 적합합니다.

LlamaIndex는 GitHub에서 액세스할 수 있습니다.

Semantic Kernel은 엔터프라이즈급 생성형 AI 애플리케이션을 구축하기 위한 Microsoft의 오픈 소스 개발 키트입니다. 현재 실험용으로 명시된 Agent Framework는 에이전트를 생성하기 위한 핵심 추상화를 제공합니다.

채팅 완료 에이전트와 고급 어시스턴트 에이전트라는 두 가지 기본 제공 에이전트 구현이 있습니다.

그룹 채팅을 통해 또는 보다 복잡한 워크플로의 경우 Semantic Kernel의 Process Framework(실험적 기능)를 사용하여 여러 에이전트를 오케스트레이션할 수 있습니다.

프로세스는 AI 에이전트에 할당된 작업을 나타내는 단계로 구성되며 단계 간 데이터 흐름 방식을 간략하게 설명합니다.

Semantic Kernel은 GitHub에서 액세스할 수 있습니다.

더 많은 정보에 입각한 의사 결정을 내리려면 선호하는 프레임워크를 실험해 보는 것이 좋습니다. 간단한 단일 에이전트 구현으로 작게 시작하여 각 프레임워크가 어떻게 작동하고 다른 프레임워크와 어떻게 비교되는지 테스트하세요.

올바른 에이전트 프레임워크는 기업의 요구 사항에 부합하며 워크플로를 자동화하는 AI 에이전트를 제작하여 비즈니스 프로세스를 보다 효율적으로 만드는 데 도움이 될 수 있습니다.