LangGraph란 무엇인가요?

이 모든 정보는 무엇을 의미할까요? 다음 예제를 보면 LangGraph를 더 명확하게 이해할 수 있습니다. 이 그래프 기반 아키텍처를 강력하고 구성 가능한 "슈퍼 지도"라고 생각해 보세요. 사용자는 AI 워크플로가 이 "슈퍼 지도"의 "내비게이터"로 생각할 수 있습니다. 마지막으로, 이 예시에서 사용자는 "지도 제작자"입니다. 이런 의미에서 내비게이터는 "지도 제작자"가 만든 "슈퍼 지도"에서 두 지점을 잇는 최적의 경로를 차트로 표시합니다.

요약하자면, 그래프 기반 아키텍처("수퍼 지도") 속 최적의 경로는 AI 워크플로("Navigator")를 사용하여 차트로 작성하고 탐색합니다. 이 비유를 통해 LangGraph를 이해해 보세요. 지도를 좋아하신다면 지도 제작자라는 단어가 사용되는 것도 보실 수 있는 기회입니다.

LangGraph는 AI 워크플로 안에서 이루어지는 프로세스를 조명하여 에이전트 상태를 완전히 투명하게 공개합니다. LangGraph에 있는 "상태" 기능은 AI 시스템이 처리하는 모든 중요 정보를 기록하고 추적하는 기억 장치 역할을 합니다. 이는 다양한 워크플로나 그래프 분석 단계를 오가는 데이터를 캡처하고 업데이트하는 디지털 노트와 유사합니다.

예를 들어 날씨를 모니터링하는 에이전트는 눈이 내린 횟수를 추적하고 변화하는 강설 추세를 바탕으로 제안을 할 수 있습니다. 복잡한 작업을 완수하기 위해 시스템이 어떻게 작동하는지 볼 수 있는 관찰 가능성은 초보자가 상태 관리를 더 깊이 이해하는 데 유용합니다. 상태 관리는 애플리케이션의 상태를 중앙으로 집중시켜서 디버깅 시 유용합니다. 그래서 프로세스 전체를 단축시켜 주곤 합니다.

이 접근 방식을 사용하면 의사 결정, 확장성, 성능 전반을 개선할 수 있습니다. 또한 이러한 프로세스를 처음 접하거나 무대 뒤에서 무슨 일이 일어나는지 알고 싶어 하는 개인의 참여도를 높일 수 있습니다.

LangGraph는 AI 애플리케이션을 구축하기 위한 Python 프레임워크인 LangChain을 비롯해 여러 핵심 기술을 기반으로 구축되었습니다. LangChain에는 LLM을 구축하고 관리하기 위한 라이브러리가 포함되어 있습니다. 그리고 LangGraph는 휴먼인더루프 접근 방식을 사용합니다. 이 기술들을 API 및 툴 세트와 결합하여 사용자에게 챗봇, 상태 그래프, 기타 에이전트 기반 시스템을 포함한 AI 솔루션과 워크플로를 개발할 수 있는 다목적 플랫폼을 제공합니다.

LangGraph의 주요 기능, 이점, 사용 사례를 알아보면서 LangGraph의 세계를 더 깊이 탐구하세요. 이 글을 다 읽고 나면 LangGraph를 다음 단계로 발전시키기 위한 지식과 리소스가 생깁니다.

먼저 LangGraph를 구성하는 주요 요소부터 알아봅시다. 이 프레임워크는 사용자가 복잡한 AI 워크플로를 만들고 관리할 수 있도록 함께 작동하는 여러 주요 구성 요소를 중심으로 구축되어 있습니다. 구성 요소는 다음과 같습니다.

휴먼 인 더 루프: 휴먼인더루프(HITL)는 프로세스의 특정 시점에서 인간 상호 작용의 요구 사항을 나타냅니다. 머신 러닝(ML) 분야에서 HITL은 인간이 모델을 구축하는 동안 정보에 입각한 결정을 내리기 위해 기계의 기능을 증강하는 협업적 프로세스를 의미합니다. HITL은 가장 중요한 데이터 포인트를 사용하여 무작위 샘플링 방법을 능가하는 기계 학습 알고리즘의 정확도를 높입니다.

상태 그래프: 그래프에서 각 노드가 연산에서의 단계를 나타내는 개념으로, 본질적으로 상태 그래프를 고안합니다. 이렇게 상태에 기반한 접근 방식을 통해 그래프는 이전 단계에 대한 정보를 유지하여, 연산이 전개됨에 따라 정보를 지속적으로 상황에 맞게 처리할 수 있습니다. 사용자는 API를 사용하여 LangGraph의 모든 상태 기반 그래프를 관리할 수 있습니다.

순환 그래프: 순환 그래프는 순환을 하나 이상 포함하는 그래프로, 에이전트 런타임에 필수적입니다. 이는 동일한 노드에서 시작하고 끝나면서 루프를 형성하는 경로가 그래프 안에 존재한다는 의미입니다. 복잡한 워크플로에는 순환 종속성이 포함되어 있는 경우가 많으며, 루프의 이전 단계에 따라 다음 단계의 결과가 달라집니다.

노드: LangGraph에서 노드는 AI 워크플로 안에 있는 개별 구성 요소 또는 에이전트를 나타냅니다. 노드는 특정 방식으로 상호 작용하는 "행위자"라고 볼 수 있습니다. 예를 들어 툴 호출을 위한 노드를 추가할 땐 ToolNode를 사용할 수 있습니다. 또 다른 예로, 다음 노드는 현재 노드 다음에 실행될 노드를 가리킵니다.

엣지: 엣지는 현재 상태에 따라 다음에 실행할 노드를 결정하는 Python 내의 함수입니다. 엣지는 조건부 분기 또는 고정적인 전환일 수 있습니다.

RAG: 검색 증강 생성(RAG)은 관련 문서를 검색하고 답변 생성을 위한 인풋으로 사용해서, LLM의 기능을 외부 소스의 컨텍스트 정보와 결합합니다.

워크플로: 워크플로는 AI 워크플로를 정의하는 노드 상호작용의 시퀀스입니다. 노드를 워크플로에 배열하면 개별 구성 요소의 강점을 사용하는 좀 더 복잡하고 동적인 워크플로를 만들 수 있습니다.

API: LangGraph는 사용자가 프로그래밍 방식으로 구성 요소와 상호 작용하게 하는 API 세트를 제공합니다. 사용자는 API 키를 사용하고, 새 노드를 추가하고, 기존 워크플로를 수정하고, AI 워크플로에서 데이터를 검색할 수 있습니다.

LangSmith: LangSmith는 LangGraph 안에서 LLM을 구축하고 관리하기 위한 전문 API로 LLM 초기화, 조건부 엣지 추가, 성능 최적화를 위한 툴을 제공합니다. 이 구성 요소들이 혁신적인 방식으로 결합되어 있어 사용자가 개별 구성 요소의 강점을 활용하는 정교한 AI 워크플로를 구축할 수 있습니다.

LangGraph는 그래프 기반 아키텍처를 사용하여 사용자가 효율성을 저하시키지 않으면서 인공 지능 워크플로를 확장하도록 지원합니다. LangGraph는 노드 간의 복잡한 관계를 모델링하여 의사 결정을 향상시킵니다. 즉, AI 에이전트를 사용하여 이 노드들의 과거 행동과 피드백을 분석합니다. LLM의 세계에서는 이 프로세스를 성찰(reflection)이라고 합니다.

의사 결정: LangGraph는 노드 간의 복잡한 관계를 모델링하여 보다 효과적인 의사 결정 시스템을 구축하기 위한 프레임워크를 제공합니다.

유연성 향상: 개발자가 새로운 구성 요소를 통합하고 기존 워크플로를 조정할 수 있는 오픈 소스 특성과 모듈식 디자인을 갖췄습니다.

다중 에이전트 워크플로: 복잡한 작업은 다중 에이전트 워크플로를 통해 처리할 수 있습니다. 이를 위해 특정 작업이나 도메인에 대한 전용 LangChain 에이전트를 만듭니다. 적절한 LangChain 에이전트로 작업을 라우팅하면 다양한 워크로드를 병렬 실행해서 효율적으로 처리할 수 있습니다. 이러한 다중 에이전트 네트워크 아키텍처는 에이전트 자동화가 분산형으로 조직된 예시합니다.

Joao Moura가 만든 좋은 예는 CrewAI를 LangChain 및 LangGraph와 함께 사용하는 것입니다. 자율 AI 에이전트를 오케스트레이션해서 복잡한 작업을 효율적으로 실행하고 협업하도록 만드는 CrewAI를 통해 이메일을 확인하고 초안을 작성할 수 있습니다.

챗봇: 사용자는 노드 기반 워크플로와 DAG(유향 비순환 그래프)를 사용하여 휴가 계획을 위한 애플리케이션을 구축할 수 있습니다. 챗봇은 최소한의 사용자 인풋에 응답하고 맞춤형 추천을 제공하는 방법을 학습합니다. 현재 Google의 Duplex와 같은 서비스는 인간 같은 대화를 모방하기 위해 LangGraph를 유사한 방식으로 사용하고 있습니다.

에이전트 시스템: LangGraph는 로보틱, 자율주행차, 비디오 게임 같은 애플리케이션에 사용될 수 있는 에이전트 기반 시스템을 구축하는 프레임워크를 제공합니다.

LLM 애플리케이션: LangGraph의 기능을 사용하면 학습을 통해 시간이 지날 수록 개선되는 정교한 AI 모델을 구축할 수 있습니다. Norwegian Cruise Line은 LangGraph를 사용하여 고객 대면 AI 솔루션을 컴파일, 구성, 개선하고 고객 경험을 개선, 개인화합니다.

LangGraph의 에이전트는 OpenAI의 GPT(사전 훈련된 생성형 트랜스포머) 모델 시리즈인 GPT-3.5 및 GPT-4를 기반으로 합니다. 그러나 LangGraph와 오픈 소스 커뮤니티는, Anthropic과 AzureChatOpenAI 모델을 비롯해 LLM API 구성을 통해 초기화된 다른 여러 모델이 생기는 데 기여했습니다. 비교적 작은 루프는 Auto-GPT 같은 프로젝트와 유사합니다.

LangGraph는 GitHub 문서 사이트에서 오픈 소스 LLM과 통합하는 방법을 쉽게 알아보는 튜토리얼을 제공합니다. LLM을 통합하는 첫 단계는 LLaMA-Factory, FastChat 및 Ollama와 같은 추론 리포지토리를 설정하는 것입니다. 이 리포지토리를 사용하면 자격 증명을 통해 구성된 해당 LLM 모델을 배포할 수 있습니다.

CrewAI, MetaGPT, AutoGen은 복잡한 워크플로를 처리할 수 있는 다중 에이전트 프레임워크입니다. 이 작업을 통해 다양한 연산 문제를 해결하려면 좀 더 유연하고 세심하게 접근해야 합니다. 포괄적인 디버깅 능력을 제공하는 이 프레임워크를 통해 개발자는 문제를 신속하게 파악하고 해결할 수 있어, 개발 및 최적화 프로세스의 효율성이 높아집니다.

LangGraph는 워크플로 개발을 위한 시각적 인터페이스 LangGraph Studio도 도입했습니다. LangGraph Studio를 사용하면 코드를 작성하지 않고 그래픽 인터페이스를 사용하여 워크플로를 설계하고 구축할 수 있습니다. 다운로드 가능한 데스크톱 애플리케이션을 사용하면 초보자가 LangGraph Studio를 더 쉽게 사용할 수 있습니다. LangGraph Studio는 다음과 같은 추가 기능도 제공합니다.

얕은 학습 곡선: LangGraph는 LangGraph Studio 없이도 이용할 수 있습니다. 그러나 LangGraph Studio의 시각적 인터페이스를 사용하면 코드에 구애 받지 않고 워크플로 설계에 집중할 수 있습니다.

협업 개선: LangGraph Studio를 사용하면 개발팀이나 고객 등 다른 사람들과 워크플로를 공유할 수 있습니다.

디버깅: 그래프 작성에서 한 발 더 나아가, 그래프가 정확하고 신뢰할 수 있는지 확인하는 디버깅 기능이 포함되어 있습니다. 최첨단 통합 개발 환경(IDE)을 갖춘 LangGraph Studio는 LangGraph 애플리케이션을 시각화하고 디버깅하는 데 유용합니다.

자연어 처리(NLP) 향상: LangGraph는 더욱 발전된 NLP 기능을 갖추고 있어 자연어를 더 잘 이해하고 보다 정확한 응답을 제공합니다.

머신 러닝 향상: LangGraph는 향상된 머신 러닝 능력을 갖추고 있어 시간이 지날 수록 학습을 통해 개선됩니다.

새로운 플랫폼 지원: LangGraph는 모바일 기기 및 엣지 컴퓨팅 같은 새로운 플랫폼을 지원하여 기술 접근성을 높일 것입니다.