LangChain 로 구축된 관찰 에이전트

다음의 필수 조건이 충족되었는지 확인하십시오.

• Python 3.8 이상이 설치되어 있습니다.

• API 의 LLM 키, Anthropic, OpenAI, 또는 LangChain 에서 지원하는 모든 LLM 제공업체.

• Instana 애플리케이션에 맞게 구성되어 있는지 확인하려면 ‘시작하기’를 참조하세요.

LangChain 애플리케이션에 Instana 를 적용하려면 다음 단계를 따르십시오:

1. LangChain 와 OpenLLMetry 에 필요한 패키지를 설치하십시오.

   pip install langchain langchain-anthropic traceloop-sdk

2. LLM 제공업체의 인증 정보를 설정하세요.

   export ANTHROPIC_API_KEY="<your-api-key>"

   참고:

   다른 제공업체를 사용하는 경우, 해당 제공업체의 환경 변수로 를 ANTHROPIC_API_KEY 대체하십시오(예: OpenAIOPENAI_API_KEY 의 경우 ).

3. LangChain 애플리케이션을 생성하세요.

   다음 예시에서는 OpenLLMetry 를 사용한 LangChain 워크플로 모니터링 방법을 보여줍니다:

   from langchain_anthropic import ChatAnthropic
   from langchain_core.prompts import PromptTemplate
   from traceloop.sdk import Traceloop
   from traceloop.sdk.decorators import task, workflow
   
   # Initialize OpenLLMetry
   Traceloop.init(app_name="langchain_demo")
   
   @task(name="initialize_llm")
   def initialize_model():
       return ChatAnthropic(
           model="claude-3-5-sonnet-20241022",
           temperature=0.7,
           max_tokens=512
       )
   
   @task(name="create_prompt_template")
   def create_prompt():
       return PromptTemplate(
           input_variables=["input_text"],
           template="You are a helpful AI assistant. Respond to the following: {input_text}"
       )
   
   @task(name="process_llm_query")
   def process_query(prompt, llm, input_text):
       chain = prompt | llm
       return chain.invoke({"input_text": input_text})
   
   @workflow(name="langchain_conversation_workflow")
   def run_conversation():
       llm = initialize_model()
       prompt_template = create_prompt()
   
       input_text = "Explain the concept of quantum computing in simple terms."
       response = process_query(prompt_template, llm, input_text)
       print("Response:", response.content)
   
   if __name__ == "__main__":
       run_conversation()

4. LangChain 애플리케이션을 실행하세요.

   python langchain_app.py

   응용 프로그램이 응답을 생성합니다:

   Response: Quantum computing is a type of computing that uses quantum-mechanical phenomena such as superposition and quantum entanglement to perform calculations. Unlike classical computers that use binary digits (0s and 1s), quantum computers use quantum bits or "qubits" that can exist in multiple states simultaneously. This allows quantum computers to perform certain types of calculations much faster than classical computers.

5. Instana 에서 데이터를 확인하세요. 애플리케이션을 실행하면 데이터가 Instana 의 Gen AI 가시성 대시보드에 표시됩니다:

   

   대시보드에는 다음과 같이 표시됩니다:

   • 워크플로 실행 흐름

   • 개별 작업 실행 (모델 초기화, 프롬프트 생성, 쿼리 처리)

   • 지연 시간 및 토큰 사용량에 따른 LLM 상호작용

   • 체인 운영

트레이스가 표시되지 않거나 연결 오류가 발생하는 등 일반적인 문제의 경우, ‘문제 해결’을 참조하십시오.

• Instana 에서 지원하는 다른 AI 에이전트 프레임워크 살펴보기

• LLM 사용에 따른 비용 산정 방법 알아보기

• LangChain 워크플로우에 대한 알림 설정하기