Langflow로 구축된 관찰 에이전트

온라인에서 편집하기

Langflow는 대규모 언어 모델(LLM)을 기반으로 한 애플리케이션을 구축, 테스트 및 배포하기 위한 오픈소스 시각화 프레임워크입니다. 이 도구는 드래그 앤 드롭 인터페이스를 제공하여 복잡한 워크플로를 설계하고, 외부 도구 및 API를 통합하며, 번거로운 코딩 작업 없이 실험을 실행할 수 있게 해줍니다.

Instana Langflow 애플리케이션에 대한 가시성을 제공하여 워크플로 실행, LLM 상호작용 및 성능 지표를 실시간으로 모니터링할 수 있게 합니다.

전제조건

온라인에서 편집하기

시작하기 전에 다음 사항이 준비되어 있는지 확인하십시오:

Python 3.10 또는 이후에 설치된
Langflow가 설치되었습니다. Langflow 설치 가이드를 참조하십시오.
LLM API 키 (Anthropic, OpenAI, 또는 Langflow에서 지원하는 기타 LLM 제공업체)
Instana 사용 중인 애플리케이션에 맞게 구성하려면 ‘시작하기’를 참조하세요.

Langflow 애플리케이션에 계측 기능 추가하기

온라인에서 편집하기

Langflow 애플리케이션은 환경 변수를 통해 구동됩니다. Instana 의 관측 기능을 활성화하려면 다음 단계를 따르세요:

1. 환경 변수 설정

온라인에서 편집하기

Langflow 애플리케이션의 루트 폴더에서 배포 모드에 맞는 적절한 구성으로 파일을 .env 생성하거나 편집하십시오.

에이전트 모드( Instana 에이전트를 통해 데이터를 전송하는 경우):

TRACELOOP_API_KEY=tl_dummy_1234567890abcdef1234567890abcdef
OTEL_RESOURCE_ATTRIBUTES="INSTANA_PLUGIN=genai"
TRACELOOP_BASE_URL=<instana-agent-host>:4317
TRACELOOP_HEADERS="x-instana-key= "
OTEL_EXPORTER_OTLP_INSECURE=true

를 귀하의 <instana-agent-host>Instana 에이전트의 호스트명 또는 IP 주소로 대체하십시오. Langflow가 컨테이너 내에서 실행 중인 경우, 다음을 사용하십시오 host.docker.internal.

참고:

는 Traceloop TRACELOOP_API_KEY SDK에서 필수로 요구되지만, Instana 로 데이터를 전송할 때는 사용되지 않습니다. 위에 표시된 임시 키를 사용하시면 됩니다.

에이전트 없는 모드( Instana 백엔드로 데이터를 직접 전송하는 경우):

TRACELOOP_API_KEY=tl_dummy_1234567890abcdef1234567890abcdef
OTEL_RESOURCE_ATTRIBUTES="INSTANA_PLUGIN=genai"
TRACELOOP_BASE_URL=<instana-otlp-endpoint>:4317
TRACELOOP_HEADERS="x-instana-key=<your_instana_key>,x-instana-host=<instana-host>"
OTEL_EXPORTER_OTLP_INSECURE=false

대체:

<instana-otlp-endpoint> Instana 백엔드 엔드포인트를 사용하여
<your_instana_key> 실제 Instana 키를 사용하여
<instana-host> Instana 의 진행자와 함께

참고:

URL 엔드포인트는 지역에 따라 다릅니다. 지역 엔드포인트에 대해서는 ‘ OpenTelemetry 데이터를 Instana 백엔드로 전송하기’를 참조하십시오.

2. 환경 변수를 사용하여 Langflow 시작하기

온라인에서 편집하기

다음 .env 파일의 환경 변수를 사용하여 Langflow 애플리케이션을 시작하십시오:

uv run langflow run --env-file .env

또는 Langflow를 전역 변수로 설치한 경우:

langflow run --env-file .env

3. 플로우 생성 및 실행

온라인에서 편집하기

텔레메트리 데이터를 생성하려면:

브라우저에서 Langflow를 실행하세요 (보통 에서 http://localhost:7860)
'Simple Agent' 스타터 프로젝트를 선택하거나 직접 플로우를 생성하세요
LLM API 키를 사용하여 에이전트 구성 요소를 설정하세요
‘Playground’를 클릭하여 흐름을 테스트해 보세요
테스트 트래픽을 생성하기 위해 담당자에게 몇 가지 질문을 해보세요:
- "인도의 수도는 어디인가요?"
- "2 + 2를 더하세요" (계산기 컴포넌트 사용)
- "오늘 날씨는 어때요?"