watsonx Orchestrate를 사용하여 프로덕션 환경에 배포 가능한 AI 에이전트 구축

Agent Development Lifecycle(ADLC)는 엔터프라이즈 환경에서 AI 에이전트를 설계, 개발, 배포하고 지속적으로 개선하기 위한 체계적인 프레임워크를 제공합니다.

AI 에이전트는 데이터, 사용 방식 및 컨텍스트에 따라 동작이 변화하는 데이터 기반의 확률적 시스템입니다. 따라서 AI 에이전트는 일회성 구현이 아니라 지속적으로 운영되는 시스템으로 관리해야 합니다.

이 수명 주기는 다음과 같은 반복적인 순서로 진행됩니다.

계획 → 구축 → 테스트 → 배포 → 모니터링 → 운영

각 단계에서는 변화하는 요구 사항에 맞춰 에이전트의 신뢰성, 확장성, 관찰 가능성 및 적응성을 유지하도록 합니다.

이 구현에서는 ADLC의 Build 단계에 중점을 둡니다.

Build 단계에서는 IBM watsonx Orchestrate를 사용하여 계획된 엔터프라이즈 사용 사례를 기능을 갖추고 프로덕션 환경에 배포 가능한 AI 에이전트로 구현하는 데 중점을 둡니다.

에이전트는 먼저 엔터프라이즈 사용 사례에 맞게 운영 역할과 비즈니스 목표를 명확히 정의하여 생성됩니다. 그런 다음 주문, 재고 및 비즈니스 규칙과 같은 운영 데이터세트를 활용한 근거 기반 추론이 가능하도록 엔터프라이즈 지식 소스를 에이전트에 연결합니다.

에이전틱 워크플로는 다단계 추론, 운영 분석 및 권장 사항 생성을 지원하는 오케스트레이션 계층으로 구성됩니다. 이 워크플로는 사용자 입력을 처리하고, 지연된 주문과 재고 상태를 분석하며, 운영 비즈니스 규칙을 적용하고, 설명 가능한 권장 사항을 생성합니다.

에이전트의 동작은 에이전트가 운영 질의를 해석하고, 워크플로를 호출하며, 비즈니스 로직을 적용하고, 근거 기반 응답을 생성하는 방식을 안내하는 구조화된 엔터프라이즈 프롬프트를 통해 정의됩니다.

이 워크플로는 다음과 같은 전체 운영 실행 파이프라인을 구성합니다.

사용자 입력 → 주문 분석 → 재고 분석 → 비즈니스 규칙 평가 → 권장 사항 생성 → 출력

그런 다음 대표적인 운영 시나리오를 사용하여, 에이전트가 엔터프라이즈 운영 요구 사항에 부합하는 정확하고 설명 가능하며 구조화된 출력 결과를 생성하는지 검증합니다.

이 AI 에이전트는 주문 및 재고 데이터를 분석하여 지연을 식별하고, 근본 원인을 파악하며, 시정 조치를 권장함으로써 전자상거래 운영팀을 지원하도록 설계되었습니다.

AI 에이전트는 사용자 입력을 이해하고, 관련 데이터를 검색하며, 추론을 수행하고, 실행 가능한 결과를 생성할 수 있는 시스템입니다. 엔터프라이즈 환경에서 에이전트는 구조화된 워크플로 내에서 작동하며, 비즈니스 시스템과 상호 작용하여 일관되고 설명 가능한 인사이트를 제공합니다.

운영팀은 배송 지연, 재고 부족, 근본 원인에 대한 가시성 부족과 같은 문제에 자주 직면합니다. 이러한 문제는 여러 시스템에 걸쳐 수작업으로 조사해야 하는 경우가 많으며, 그 결과 비효율성과 의사 결정 지연이 발생합니다.

사용자가 "iPhone 14 주문이 지연되는 이유는 무엇인가요?"와 같은 질의를 제출하면,

에이전트는 다음 순서로 작업을 수행합니다.

• 질의를 해석하여 제품과 의도를 식별합니다.
• 주문 데이터를 검색하여 지연 패턴을 분석합니다. 
• 재고 데이터를 검색하여 재고 가용성을 평가합니다.
• 비즈니스 규칙을 적용하여 근본 원인을 파악합니다. 
• 인사이트와 권장 조치를 포함한 구조화된 응답을 생성합니다.

에이전트는 다음과 같은 구조화된 실행 흐름을 따릅니다.

사용자 질의 → 의도 이해 → 툴 호출 → Astra DB Knowledge Repository → 시맨틱 검색 → 비즈니스 규칙 평가 → 권장 사항 생성 → 구조화된 응답 → 최종 출력

이 접근 방식이 중요한 이유

이 접근 방식은 엔터프라이즈 데이터, 비즈니스 규칙 및 구조화된 추론을 결합하여 신뢰할 수 있고 설명 가능한 출력 결과를 생성합니다. 실제 데이터를 기반으로 응답을 생성하고 일관된 워크플로를 적용함으로써 에이전트는 정확성을 보장하고 근거 없는 결론을 최소화합니다. 구조화된 출력은 평가, 모니터링 및 다운스트림 시스템과의 통합을 지원합니다.

따라서 이 솔루션은 일관성, 추적 가능성 및 신뢰성이 중요한 엔터프라이즈 환경에 적합합니다.

이 구현에서는 다음과 같은 프로덕션 환경에 배포 가능한 AI 에이전트를 제공합니다.

• 통합된 툴을 사용하여 엔터프라이즈 데이터를 검색하고 분석합니다.
• 규칙 기반 추론을 적용하여 운영 문제를 식별합니다. 
• 다운스트림 시스템에서 활용할 수 있는 구조화된 출력 결과를 생성합니다. 
• 테스트, 배포, 모니터링 및 최적화와 같은 수명 주기 단계를 지원합니다. 

이 구현을 완료하면 다음을 수행할 수 있습니다.

• watsonx Orchestrate에서 AI 에이전트를 생성합니다. 
• Astra DB를 사용하여 엔터프라이즈 데이터 통합
• 프롬프트를 사용하여 구조화된 동작 정의 
• 추론 워크플로 구현 
• 일관되고 구조화된 출력 생성

• IBM watsonx Orchestrate에 대한 액세스 
  
• Astra DB에 대한 액세스
• AI 에이전트 및 대규모 언어 모델에 대한 기본적인 이해 
• 이 튜토리얼에서 제공하는 샘플 데이터세트

1단계: 샘플 데이터 준비

엔터프라이즈 시스템을 시뮬레이션하기 위해 구조화된 데이터세트(주문 및 재고)를 생성합니다. 이 데이터세트를 통해 에이전트는 지연, 재고 수준, 창고 분포와 같은 실제 데이터를 검색하고 분석할 수 있습니다. 비즈니스 규칙은 에이전트가 이 데이터를 해석하여 근본 원인을 식별하는 방식을 정의합니다. 

orders_data.csv 
order_id,product,order_date,delivery_date,status,delay_days,warehouse 
1001,iPhone 14,2026-04-01,2026-04-05,delayed,4,WH1 
1002,iPhone 14,2026-04-02,2026-04-06,delayed,4,WH1 
1003,iPhone 14,2026-04-03,2026-04-07,delayed,4,WH2 
1004,iPhone 14,2026-04-04,2026-04-08,delayed,4,WH2 
1005,Samsung S23,2026-04-01,2026-04-03,delivered,0,WH1 
1006,Samsung S23,2026-04-02,2026-04-04,delivered,0,WH2 
1007,Pixel 8,2026-04-01,2026-04-06,delayed,5,WH3 
1008,Pixel 8,2026-04-02,2026-04-07,delayed,5,WH3 
1009,Pixel 8,2026-04-03,2026-04-05,delivered,0,WH3 
1010,OnePlus 12,2026-04-01,2026-04-02,delivered,0,WH1 
1011,OnePlus 12,2026-04-02,2026-04-06,delayed,4,WH2 
1012,OnePlus 12,2026-04-03,2026-04-07,delayed,4,WH2

inventory_data.csv 
product,stock,warehouse,reorder_level 
iPhone 14,0,WH1,20 
iPhone 14,0,WH2,20 
Samsung S23,50,WH1,15 
Samsung S23,40,WH2,15 
Pixel 8,10,WH3,25 
OnePlus 12,5,WH2,15

business_rules.txt 
재고 = 0 → 품절 문제
delay_days > 3 → 물류 문제
지연된 주문이 여러 건(2건 초과) → 공급망 문제
재고 < reorder_level → 재고 보충 필요
여러 창고에서 지연 발생 → 시스템 전반의 문제

이 샘플 데이터세트는 엔터프라이즈 운영 시스템을 단순화하여 나타낸 것입니다. 이 구현에서는 구조화된 주문, 재고 및 비즈니스 규칙 정보를 자연어 지식 문서로 변환하여 Astra DB에 저장합니다. 이 외부 벡터 리포지터리는 시맨틱 검색을 지원하며, 정적인 파일 기반 접근 방식보다 더욱 현실적인 검색 증강 생성(RAG) 아키텍처를 제공합니다. 

2단계: 에이전트 생성

Build → Agents로 이동한 다음 Create agent를 선택합니다. 

정의된 이름과 설명을 사용하여 watsonx Orchestrate에서 에이전트를 생성합니다. 이를 통해 에이전트의 역할이 데이터를 분석하고 권장 사항을 제공하는 주문 및 재고 자문 역할로 정의됩니다.

이름: Order and Inventory Advisor 

설명: 주문 및 재고 데이터를 분석하여 지연을 식별하고, 근본 원인을 파악하며, 시정 조치를 권장하는 AI 에이전트입니다.

3단계: Astra DB를 사용하여 엔터프라이즈 지식 추가

Knowledge → Add Source로 이동한 다음 엔터프라이즈 지식 리포지터리로 Astra DB를 선택합니다. 

AI 에이전트는 런타임 중에 정적인 파일에 의존하는 대신 Astra DB를 외부 벡터 데이터베이스로 사용하여 운영 지식을 저장하고 검색합니다.

앞서 준비한 주문, 재고 기록 및 비즈니스 규칙 등의 운영 데이터세트는 자연어 지식 문서로 변환되어 Astra DB의 벡터 지원 컬렉션에 로드됩니다. 이 문서들은 주문 지연, 재고 부족, 창고 분포 및 비즈니스 정책을 이해하는 데 필요한 운영 지식을 AI 에이전트에 제공합니다.

리포지터리에 저장되는 지식에는 주문 지연 정보, 재고 가용성, 창고 상태, 물류 차질 및 운영 규칙 등이 포함됩니다. 이 리포지터리는 AI 에이전트의 엔터프라이즈 메모리 역할을 합니다.

Astra DB에서 벡터 지원 컬렉션을 생성하고, 시맨틱 검색을 지원하기 위한 문서 임베딩을 생성합니다. 런타임 중에는 IBM watsonx Orchestrate가 사용자의 요청을 기반으로 Astra DB를 질의하여 가장 관련성이 높은 운영 기록을 검색합니다. 검색된 정보는 에이전트가 근거 기반 추론을 수행하고 설명 가능한 권장 사항을 생성하는 데 사용됩니다.

리포지터리에는 다음과 같은 정보가 포함됩니다.

• 주문 배송 기록 및 지연 정보
• 재고 가용성 및 재주문 임계값
• 창고 분포 및 재고 상태
• 물류 이벤트 및 운영 차질
• 재고 보충 및 에스컬레이션 프로세스를 관리하는 비즈니스 규칙

지식 문서를 Astra DB에 로드한 후에는 리포지터리를 IBM watsonx Orchestrate에 연결하고 Order and Inventory Advisor의 엔터프라이즈 지식 소스로 구성합니다.

이 리포지터리는 키워드, 벡터 및 하이브리드 검색 모드를 지원하여 구조화된 엔터프라이즈 정보와 비정형 엔터프라이즈 정보를 효율적으로 검색할 수 있도록 합니다. 이 기능을 통해 에이전트는 관련 운영 지식을 검색하고, 근거가 있는 엔터프라이즈 데이터만을 기반으로 응답을 생성할 수 있습니다.

Astra DB 연결, 인증, 키스페이스 선택, 임베딩 모드, 검색 모드 및 필드 매핑을 구성하는 방법에 대한 자세한 내용은 다음 IBM 문서를 참조하세요.

Astra DB 콘텐츠 리포지터리 연결: https://www.ibm.com/docs/en/watsonx/watson-orchestrate/base?topic=agents-connecting-astra-db-content-repository

AI 에이전트에 추가 컨텍스트를 제공하기 위해 설명이 포함된 지식 이름과 리포지터리 설명을 구성합니다.

지식 이름:

Order and Inventory Astra Repository

설명:

Order and Inventory Advisor에서 사용하는 주문 기록, 재고 정보, 창고 분포 세부 정보, 물류 정보 및 운영 비즈니스 규칙이 포함된 엔터프라이즈 지식 리포지터리입니다. 이 리포지터리는 시맨틱 검색과 근거 기반 운영 권장 사항 생성을 지원합니다.

AI 에이전트는 이러한 근거 기반 엔터프라이즈 지식을 선별적으로 검색하여 주문 지연을 식별하고, 재고 부족을 감지하며, 창고 위험을 분석하고, 운영 비즈니스 규칙을 평가합니다. 권장 사항은 검색된 지식만을 기반으로 생성되므로, 응답의 설명 가능성을 유지하고 엔터프라이즈 거버넌스 요구 사항에도 부합하도록 합니다.

이 근거 기반 계층은 생성된 모든 인사이트가 근거 없는 가정이 아니라 엔터프라이즈 지식에서만 도출되도록 함으로써 응답의 정확성, 운영 신뢰성 및 설명 가능성을 향상시킵니다.

이 솔루션은 Astra DB를 외부 벡터 리포지터리로 사용하여 검색 증강 생성(RAG) 아키텍처를 구현하며, IBM watsonx Orchestrate가 엔터프라이즈 지식 리포지터리와 통합되어 확장 가능하고 설명 가능하며 프로덕션 환경에 배포 가능한 운영 인텔리전스를 제공하는 방법을 보여줍니다.

4단계: 툴셋 추가 

에이전트 구성 화면에서 Toolset → Add Tool로 이동한 다음 엔터프라이즈 운영 툴로 Agentic Workflow를 선택합니다.

Agentic Workflow는 사용자 상호 작용, 운영 추론, 엔터프라이즈 지식 분석 및 권장 사항 생성을 담당하는 오케스트레이션 엔진 역할을 합니다. 이 워크플로를 통해 AI 에이전트는 주문 지연, 재고 부족, 창고 위험 및 비즈니스 규칙 평가에 대해 다단계 추론을 수행할 수 있습니다.

다음과 같이 워크플로를 구성합니다. 

이름: Order Delay Analysis Workflow

설명: 근거 기반 엔터프라이즈 지식을 사용하여 주문 지연, 재고 부족, 물류 위험 및 운영 비즈니스 규칙을 분석하는 워크플로입니다. 

추가가 완료되면 이 워크플로는 에이전트 툴셋에서 사용할 수 있으며, 사용자와의 대화 중에 자동으로 호출됩니다. 에이전트는 이 워크플로를 사용하여 운영 질의를 처리하고, 근거 기반 엔터프라이즈 인사이트를 검색하며, 비즈니스 규칙을 적용하고, 설명 가능한 권장 사항을 생성합니다.

4.1단계: 워크플로 활동 구성 

Agentic Workflow에서 생성형 프롬프트 활동과 사용자 상호 작용 단계를 사용하여 다단계 운영 추론 파이프라인을 구성합니다. 

이 워크플로는 사용자가 다음과 같은 제품 관련 운영 질의를 입력하는 사용자 입력 수집 단계부터 시작됩니다. 

iPhone 14 주문이 지연되는 이유는 무엇인가요?

첫 번째 단계인 Enter Product Query에서는 사용자로부터 운영 질의를 수집합니다. 이 입력은 이후 엔터프라이즈 분석을 위한 AI 추론 파이프라인으로 전달됩니다. 

두 번째 단계인 Analyse Order Delays에서는 지연된 주문, 배송 일정, 창고 분포 패턴 및 물류 관련 위험을 분석합니다. 이 단계에서는 운영 병목 현상과 배송 지연 패턴을 파악합니다.

세 번째 단계인 Analyse Inventory에서는 재고 가용성, 재고 수준, 재주문 임계값 및 재고 보충 조건을 분석합니다. 이 단계에서는 재고 부족과 재고 관련 운영 위험을 감지합니다. 

네 번째 단계인 Apply Business Rules에서는 미리 정의된 엔터프라이즈 운영 규칙을 분석된 주문 및 재고 데이터에 적용합니다. 이 워크플로는 품절 문제, 물류 지연, 재고 보충 필요 여부 및 공급망 전반에 영향을 미치는 시스템적 문제와 같은 조건을 평가합니다.

다섯 번째 단계인 Generate Recommendation에서는 식별된 근본 원인을 기반으로 설명 가능한 운영 권장 사항, 시정 조치, 모니터링 제안 및 구조화된 엔터프라이즈 출력 결과를 생성합니다. 

마지막 단계인 Output에서는 생성된 운영 분석 결과와 권장 사항을 사용자에게 표시합니다.

업로드된 워크플로 캔버스는 IBM watsonx Orchestrate에서 구현된 전체 엔터프라이즈 오케스트레이션 파이프라인을 보여줍니다. 

이 워크플로 설계를 통해 watsonx Orchestrate를 사용하여 다단계 AI 추론, 근거 기반 엔터프라이즈 분석, 설명 가능한 권장 사항, 모듈식 오케스트레이션 및 프로덕션 환경에 배포 가능한 운영 인텔리전스를 구현할 수 있습니다.

5단계: 에이전트 동작 구성

AI 에이전트의 Behaviour 섹션으로 이동하여 엔터프라이즈 운영 동작 지침을 정의합니다. 이 구성에서는 AI 에이전트가 추론을 수행하고, 엔터프라이즈 지식을 검색하며, 연결된 워크플로를 호출하고, 운영 권장 사항을 생성하는 방식을 제어합니다.

다음 동작 프롬프트를 추가합니다.

귀하는 주문 관리, 재고 분석, 물류 모니터링 및 공급망 최적화를 전문으로 하는 Enterprise Operations AI Assistant입니다.

### 역할

• 지연된 주문 분석
• 재고 부족 감지
• 창고 문제 식별
• 운영 비즈니스 규칙 적용
• 근거 기반 권장 사항 생성

### 지침

• 항상 연결된 워크플로와 업로드된 엔터프라이즈 지식 파일을 사용합니다.
• 제공된 데이터에 없는 내용을 생성하거나 추측하지 않습니다.
• 모든 분석 결과와 권장 사항은 제공된 데이터를 기반으로 합니다.
• 설명 가능하고 구조화된 출력 결과를 제공합니다.

### 오류 처리

일치하는 제품, 주문, 재고 항목 또는 창고 기록을 찾을 수 없는 경우 

상태: 데이터 없음

메시지: 제공된 데이터에서 일치하는 기록을 찾을 수 없습니다.

권장 사항: 검색 조건을 확인한 후 다시 시도하세요.

### 응답 형식

분석이 성공한 경우에는 다음 형식을 사용합니다.

상태: 성공

요약:

<간략한 개요>

 주요 결과:

• 결과 1
• 결과 2

권장 사항:

• 권장 사항 1
• 권장 사항 2

동작 계층은 AI 에이전트가 watsonx Orchestrate 내에서 운영 질의를 해석하고 응답을 생성하는 방식을 안내하는 엔터프라이즈 추론 정책 역할을 합니다.

5단계: 에이전트 테스트

엔터프라이즈 지식, 동작 지침 및 Agentic Workflow를 구성한 후에는 IBM watsonx Orchestrate의 Talk to agent 인터페이스를 사용하여 AI 에이전트를 검증합니다. 사용자는 다음과 같은 운영 질의를 제출할 수 있습니다.

"iPhone 14 주문이 지연되는 이유는 무엇인가요?"

에이전트는 연결된 Astra DB 리포지터리에서 관련 운영 지식을 검색하고, 구성된 워크플로를 실행하며, 주문 및 재고 정보를 분석하고, 운영 비즈니스 규칙을 적용하여 재고 부족과 물류 문제를 식별한 후, 설명 가능한 추론을 바탕으로 근거 기반 권장 사항을 생성합니다. 테스트 인터페이스를 통해 개발자는 워크플로 실행을 모니터링하고, 응답의 정확성을 검증하며, 배포 전에 프로덕션 환경 배포 준비 상태를 평가할 수도 있습니다.

**iPhone 14 주문 지연의 근본 원인 분석**

상태: 성공 

요약: 현재 iPhone 14 주문 4건(ID 1001~1004)이 4일 동안 지연되고 있습니다. 지연의 원인은 주요 주문 처리 센터인 WH1과 WH2에서 재고를 확보할 수 없기 때문입니다.

주요 결과:

• 지연된 모든 iPhone 14 주문은 WH1 또는 WH2 창고에 할당되어 있습니다.
• 근본 원인은 해당 창고의 iPhone 14 재고 부족이며, 이로 인해 각 주문이 4일씩 지연되고 있습니다.

권장 사항:

• 재고를 보충할 수 있도록 다른 창고(예: WH3)의 iPhone 14 재고를 WH1과 WH2로 재배치합니다.
• 추가 지연을 방지하기 위해 WH1과 WH2로 입고되는 iPhone 14 배송을 앞당깁니다.
• 품절이 발생하기 전에 선제적으로 재고를 보충할 수 있도록 각 창고에 iPhone 14 재고 부족 알림을 구현합니다.

이 튜토리얼에서는 watsonx Orchestrate와 Astra DB를 사용하여 프로덕션 환경에 배포 가능한 AI 에이전트를 개발했습니다. 이 솔루션은 엔터프라이즈 지식 기반화, Agentic Workflow 실행, 운영 비즈니스 규칙 추론 및 설명 가능한 권장 사항 생성을 결합하여 주문 지연, 재고 부족 및 공급망 병목 현상을 분석합니다.

이 솔루션은 설명 가능한 추론, 모듈식 워크플로 설계 및 프로덕션 환경에 적합한 아키텍처 원칙을 통해 엔터프라이즈 AI 시스템이 운영 의사 결정을 지원하는 방법을 보여줍니다.

또한 이 AI 에이전트는 테스트, 배포, 모니터링 및 지속적인 워크플로 최적화와 같은 엔터프라이즈 AI 수명 주기 단계를 지원함으로써 Agent Development Lifecycle(ADLC)에 부합합니다.

엔터프라이즈 AI 솔루션을 더욱 확장하기 위해 다음과 같은 기능을 추가로 구현할 수 있습니다.

• AI 에이전트 성능 평가
• 엔터프라이즈 환경에 워크플로 배포
• 워크플로 성능의 지속적인 모니터링 및 최적화 
• 외부 엔터프라이즈 운영 데이터세트 통합

계획 단계에서는 엔터프라이즈 운영 목표를 정의하고, 구축 단계에서는 엔터프라이즈 지식을 기반으로 한 추론, 비즈니스 규칙 추론 및 설명 가능한 운영 분석을 활용하여 지능형 워크플로를 실행합니다. 이 구현은 IBM watsonx Orchestrate를 사용하여 확장 가능하고 설명 가능하며 운영상 신뢰할 수 있는 솔루션을 제공하는 프로덕션 환경에 배포 가능한 엔터프라이즈 AI 에이전트를 구축하는 방법을 보여줍니다.