AI 에이전트 메모리란 무엇인가요?

AI 에이전트 기억은 인공 지능(AI) 시스템이 과거 경험을 저장하고 회상하여 의사 결정, 인식 및 전체 성능을 향상시키는 능력을 의미합니다.

기존 AI 모델이 각 작업을 독립적으로 처리하는 것과 달리, 기억을 가진 AI 에이전트는 맥락을 유지하고, 시간에 따라 패턴을 인식하며, 과거 상호 작용을 기반으로 적응할 수 있습니다. 이러한 기능은 피드백 루프, 지식 기반, 적응형 학습이 필요한 목표 지향형 AI 애플리케이션에서 필수적입니다.

메모리는 이전 상호 작용에 대해 무언가를 기억하는 시스템입니다. AI 에이전트에는 메모리 시스템이 반드시 필요하지 않습니다. 예를 들어, 단순 반사 에이전트는 환경에 대한 실시간 정보를 인식하고 이를 바탕으로 행동하거나 그 정보를 전달합니다.

기본적인 온도 조절기는 어제의 온도를 기억할 필요가 없습니다. 하지만 메모리가 있는 더 발전된 '스마트' 온도 조절기는 단순한 온/오프 온도 조절을 넘어 사용자 행동에 적응하고 에너지 효율성을 최적화하는 등 패턴을 학습할 수 있습니다. 현재 온도에만 반응하는 대신, 과거 데이터를 저장하고 분석하여 더 지능적인 결정을 내릴 수 있습니다.

대규모 언어 모델(LLM)은 스스로 정보를 기억할 수 없습니다. 기억 구성 요소를 별도로 추가해야 합니다. 그러나 AI 기억 설계에서 가장 큰 과제 중 하나는 검색 효율성을 최적화하는 것으로, 데이터를 과도하게 저장하면 응답 속도가 느려질 수 있습니다.

최적화된 기억 관리는 AI 시스템이 가장 관련성 높은 정보만 저장하도록 하면서, 실시간 애플리케이션을 위한 낮은 지연 시간 처리를 유지할 수 있도록 돕습니다.

연구자들은 에이전틱 메모리를 심리학자들이 인간의 기억을 분류하는 방식과 비슷하게 분류합니다. 프린스턴 대학교의 연구팀이 발표한 영향력 있는 언어 에이전트를 위한 인지 아키텍처(CoALA) 논문¹에서는 다양한 기억 유형을 다음과 같이 설명합니다.

단기 기억

단기 기억(STM)은 AI 에이전트가 즉각적인 의사 결정을 위해 최근의 인풋을 기억하는 데 사용되며 여러 차례 이어지는 대화 속에서 맥락을 유지해야 하는 대화형 AI에 유용합니다.

예를 들어, 세션 내에서 이전 메시지를 기억하는 챗봇은 각 사용자 입력을 개별적으로 처리하는 대신 일관성 있는 응답을 제공할 수 있어, 사용자 경험을 향상시킬 수 있습니다. 예를 들어, OpenAI의 ChatGPT는 단일 세션 내에서 대화 기록을 유지하여 보다 원활하고 맥락을 이해하는 대화를 가능하게 합니다.

STM은 일반적으로 롤링 버퍼 또는 컨텍스트 창을 사용하여 구현되며, 이는 일정량의 최근 데이터를 저장하고 일정 시간이 지나면 덮어씁니다. 이 접근법은 짧은 상호 작용에서 연속성을 향상시키지만, 세션을 넘어서는 정보를 저장하지 않으므로 장기적인 개인화나 학습에는 적합하지 않습니다.

장기 기억

장기 기억(LTM)은 AI 에이전트가 여러 세션에 걸쳐 정보를 저장하고 기억해서 시간이 지날 수록 개인화되고 지능적으로 발전할 수 있도록 합니다.

LTM은 단기 메모리와 달리 영구적인 저장을 위해 설계되며 데이터베이스, 지식 그래프 또는 벡터 임베딩을 사용하여 구현되는 경우가 많습니다. 이 기억 유형은 개인화된 어시스턴트 및 추천 시스템과 같이 과거에 대한 지식이 필요한 AI 애플리케이션에서 결정적인 역할을 합니다.

예를 들어, AI 기반 고객 지원 에이전트는 사용자의 이전 상호 작용을 기억하고 이에 맞춰 응답을 조정함으로써 전반적인 고객 경험을 향상시킬 수 있습니다.

LTM을 구현하는 가장 효과적인 기술 중 하나는 검색 증강 생성(RAG) 입니다. 이 기술에서는 에이전트가 저장된 지식 기반에서 관련 정보를 가져와 응답을 향상시킵니다.

에피소드 기억

AI 에이전트는 삽화적 기억을 통해, 인간이 개별 사건을 기억하는 것과 비슷한 방식으로 과거의 특정한 경험을 회상할 수 있습니다. 이 기억 유형은 과거 사건을 학습하여 미래에 더 나은 결정을 내리는 사례 기반 추론에 유용합니다.

삽화적 기억은 주요 이벤트, 행동, 그 결과를 구조화된 형식으로 기록하여 에이전트가 의사 결정을 내릴 때 접근할 수 있도록 구현되는 경우가 많습니다.

예를 들어, AI 기반 금융 상담사는 사용자의 과거 투자 선택을 기억하고 그 기록을 바탕으로 더 나은 추천을 제공할 수 있습니다. 이러한 기억 유형은 로보틱 및 자율 시스템에서도 필수적이며, 에이전트가 과거 행동을 기억하여 효율적으로 이동할 수 있도록 돕습니다.

의미 기억

시맨틱 기억은 AI 에이전트가 체계적인 사실 지식을 저장하고 이를 검색하여 추론에 활용할 수 있도록 합니다. 특정 사건을 다루는 삽화적 기억과 달리, 시멘틱 기억은 사실, 정의, 규칙과 같은 일반화된 정보를 포괄합니다.

AI 에이전트는 일반적으로 지식 기반, 기호적 AI 또는 벡터 임베딩을 사용하여 의미 기억을 구현하며, 이를 통해 관련 정보를 효율적으로 처리하고 검색할 수 있습니다. 이 유형의 기억은 법률 AI 어시스턴트, 의료 진단 툴 및 기업 지식 관리 시스템과 같이 도메인 전문 지식이 필요한 실제 애플리케이션에서 사용됩니다.

예를 들어, AI 법률 상담사는 지식 기반을 활용하여 판례를 검색하고 정확한 법률 자문을 제공할 수 있습니다.

절차 기억

AI 에이전트에서 절차 기억은 기술, 규칙 및 학습된 행동을 저장하고 기억하는 능력을 의미하며, 이를 통해 에이전트는 매번 명시적인 추론 없이 자동으로 작업을 수행할 수 있습니다.

이는 자전거 타기나 타자 치기처럼 사람들이 각 단계를 의식적으로 생각하지 않고도 행동을 수행할 수 있게 하는 인간의 절차적 기억에서 영감을 얻은 것입니다. AI에서 절차 기억은 에이전트가 이전 경험을 기반으로 복잡한 작업 순서를 자동화하여 효율성을 향상시키는 데 도움을 줍니다.

AI 에이전트는 훈련을 통해 행동 순서를 학습하며, 종종 강화 학습을 사용하여 시간이 지남에 따라 성능을 최적화합니다. 작업 관련 절차를 저장함으로써 AI 에이전트는 계산 시간을 줄이고 데이터를 처음부터 다시 처리하지 않고도 특정 작업에 더 빠르게 응답할 수 있습니다.

개발자는 외부 스토리지, 특화된 아키텍처 및 피드백 메커니즘을 사용하여 기억을 구현합니다. AI 에이전트는 간단한 반사 에이전트에서 고급 학습 에이전트에 이르기까지 복잡도가 다양하므로, 기억 구현은 에이전트의 아키텍처, 사용 사례 및 요구되는 적응성에 따라 달라집니다.

LangChain

기억이 활성화된 AI 에이전트를 구축하는 주요 에이전트 프레임워크 중 하나는 LangChain입니다. 이 프레임워크는 기억, API 및 추론 워크플로의 통합을 촉진합니다. LangChain을 벡터 데이터베이스와 결합함으로써, AI 에이전트는 대량의 과거 상호 작용을 효율적으로 저장하고 검색할 수 있어 시간이 지남에 따라 더 일관된 응답을 제공할 수 있습니다.

LangGraph

LangGraph는 개발자가 AI 에이전트를 위한 계층적 기억 그래프를 구축할 수 있도록 하여, 시간에 따라 의존성을 추적하고 학습하는 능력을 향상시킵니다.

벡터 데이터베이스를 통합함으로써 에이전트 시스템은 이전 상호 작용의 임베딩을 효율적으로 저장하고, 이를 통해 맥락 기반의 기억을 불러올 수 있습니다. 이는 에이전트가 사용자 선호도와 과거 수정 사항을 기억해야 하는 AI 기반 문서 생성에서 유용합니다.

기타 오픈 소스 제품

오픈 소스 프레임워크가 등장하면서 기억력이 강화된 AI 에이전트 개발이 가속화되었습니다. GitHub와 같은 플랫폼에는 메모리를 AI 워크플로에 통합할 수 있는 툴과 템플릿을 제공하는 수많은 저장소가 있습니다.

또한, Hugging Face는 기억 구성 요소와 함께 세밀하게 조정하여 AI의 기억 능력을 향상시킬 수 있는 미리 훈련된 모델을 제공합니다. AI 개발에 있어 주요 언어인 Python은 오케스트레이션, 기억 저장 및 검색 메커니즘을 처리하는 라이브러리를 제공하므로 AI 기억 시스템을 구현하는 데 적합한 언어입니다.