챗봇 최적화에서 벗어나야 하는 이유: 고객 서비스에 에이전틱 오케스트레이션이 필요한 이유

현재 자동화 솔루션이 해결하는 고객 문의는 약 14%에 불과합니다. 고객은 챗봇에 질문을 하고 명확한 답변을 받은 뒤, 질문을 구체화하거나 대화의 방향을 바꿔도 자신의 의도를 계속 이해해 주기를 기대합니다. 또한 ChatGPT와 같은 소비자용 챗봇이 이러한 경험을 제공하기 때문에, 시스템이 대화의 맥락을 유지하고, 모호한 표현을 이해하며, 여러 세션에 걸쳐 자신의 요구를 기억하고, 자연스럽게 응답하기를 기대합니다.

하지만 은행이나 보험사, 통신사의 고객 서비스에서는 전혀 다른 경험을 하게 됩니다. 고객은 "왜 이 챗봇은 내가 사용하는 챗봇처럼 작동하지 않을까?"라고 생각하게 됩니다.

실제로는 경직된 대화 흐름과 반복되는 질문, 더 이상 진행되지 않는 막다른 단계만 경험하게 되고, 결국 상담원 연결을 요청하게 됩니다. 이러한 경험이 반복되면 고객은 디지털 채널 자체에 대한 신뢰를 잃게 됩니다. 나아가 제품과 정책, 서비스를 이해하기 위한 주요 창구로 외부 AI 툴을 사용하게 되고, 기업은 고객 관계에 대한 주도권을 잃을 위험에 처할 수 있습니다.

고객 서비스 리더에게 이러한 경험이 초래하는 결과는 즉각적입니다. 서비스 비용은 증가하고, 자동 해결률은 낮아지며, 고객 경험은 악화됩니다. 문제를 해결하지 못하는 챗봇으로 상담원을 대체하면 고객은 불만을 느끼고 충분한 지원을 받지 못하게 됩니다. 고객은 도움을 받지 못하면 단순히 이용을 중단하는 데 그치지 않고, 결국 서비스를 떠나게 됩니다.

대부분의 고객 서비스 자동화는 고객을 미리 정해진 경로로 안내하는 단순한 모델을 기반으로 구축되었습니다. '1번은 이 서비스, 2번은 저 서비스'와 같은 방식입니다. 챗봇이 음성 자동응답(IVR) 시스템을 대체한 이후에도 근본적인 아키텍처는 크게 달라지지 않았습니다. 이러한 시스템은 내부적으로 제한적인 AI 기능과 규칙 기반 로직을 사용했습니다. 음성을 텍스트로 변환하고, 의도를 파악하며, 일부 개체 정보를 추출하고, 미리 정의된 대화 흐름에 따라 사용자를 안내할 수는 있었지만, 이는 대화가 시스템이 예상한 경로를 그대로 따를 때만 가능했습니다.

하지만 실제 고객은 대화의 방향을 바꾸고, 추가 질문을 하며, 여러 문제를 한꺼번에 제기합니다. 그리고 시스템이 자신의 의도를 정확하게 이해하고 해석하기를 기대합니다. 바로 이 지점에서 기존 세대의 자동화 시스템은 한계를 드러냈으며, 많은 조직이 수년간 고객 서비스 자동화에 투자하고도 자동 해결률을 높이지 못하는 이유이기도 합니다.

높아지는 고객 기대에 부응하려면 새로운 접근 방식이 필요합니다. 고객을 정해진 절차에 맞추도록 강요하는 것이 아니라, 고객의 의도를 이해하고 실시간으로 대응하며 업무를 끝까지 수행할 수 있는 접근 방식이어야 합니다.

규모가 크고 복잡한 서비스 업무도 더 작고 명확한 단위의 작업으로 나누면 훨씬 효과적으로 처리할 수 있습니다. 하나의 시스템이 모든 업무를 처리하도록 하는 대신, 조직은 고객 응대의 각 단계를 전문화된 AI 에이전트에 분담할 수 있습니다.

하나의 에이전트는 대화를 시작하고 고객의 요구를 파악할 수 있습니다. 동시에 다른 에이전트는 관련 정보를 검색하고, 또 다른 에이전트는 계정 정보 업데이트나 보험금 청구 상태 확인과 같은 업무를 수행할 수 있습니다. 각 AI 에이전트는 자신에게 맡겨진 역할을 효과적으로 수행하며, 함께 협력해 고객의 문제를 해결합니다.

이러한 모델이 바로 고객 서비스에서의 에이전틱 오케스트레이션의 핵심 개념입니다. 이는 자동화를 단일한 if-then 규칙 기반 프로그램에서, 문제 해결을 중심으로 여러 AI 에이전트가 협력하는 오케스트레이션 시스템으로 전환합니다.

한 고객이 갑작스러운 의료 응급 상황을 겪으면서 이번 달 생활비가 부족해졌습니다. 이 고객은 곧 납부해야 하는 미화 500달러의 자동차 할부금에 대해 납부 연기를 신청해야 합니다. 고객은 고객센터에 전화하는 대신 은행의 AI 어시스턴트를 이용합니다.

에이전틱 시스템은 다음과 같은 방식으로 이 고객 응대를 처리합니다.

• 주 에이전트는 고객의 요청을 이해하고 이를 여러 작업으로 분해합니다.
• 신용 에이전트는 고객의 신용 점수를 조회하여 자격 요건을 평가합니다.
• 결제 이력 에이전트는 최근 수년간의 연체 이력을 확인합니다.
• 납부 연기 자격 에이전트는 고객이 최근에 납부 연기를 신청한 이력이 있는지 확인합니다.
• 대출 계산 에이전트는 누적 이자와 변경된 대출 상환 완료일을 포함한 새로운 대출 조건을 산정합니다.

각 에이전트는 자신에게 할당된 작업을 수행한 후, 공유 컨텍스트 계층을 통해 그 결과를 공유합니다. 그런 다음 오케스트레이션 계층은 각 결과를 종합하여 변경된 대출 조건을 고객에게 제시하고 승인을 요청합니다.

고객이 이를 승인하면,

1. 한 에이전트는 대출 계약을 업데이트합니다.
2. 다른 에이전트는 CRM 시스템을 업데이트합니다.
3. 이 모든 고객 응대는 상담원의 개입 없이 엔드투엔드로 완료됩니다.

기존 시스템에서는 이 과정의 각 단계를 모두 명시적으로 프로그래밍해야 했습니다. 개발자는 모든 규칙과 조건, 가능한 모든 처리 경로를 미리 정의해야 했기 때문에 시스템은 경직되고 변화에 유연하게 대응하기 어려웠습니다.

에이전틱 오케스트레이션에서는 이러한 방식이 달라집니다. 모든 결과를 일일이 스크립트로 정의하는 대신, 팀은 목표와 제약 조건, 정책만 정의하면 됩니다. 에이전트는 거버넌스가 적용된 가드레일 내에서 작업을 완료하는 방법을 동적으로 결정합니다. 이러한 방식은 개발 기간을 수주에 걸친 프로그래밍 작업에서 몇 시간의 구성 작업 수준으로 크게 단축하며, 실제 환경에서 복잡한 상황이 발생하더라도 훨씬 더 유연하게 대응할 수 있는 시스템을 구현할 수 있도록 합니다.

처리량이 가장 많거나, 비용이 가장 많이 발생하거나, 고객 불만을 가장 많이 유발하는 상위 10~15개의 인텐트(intent)를 식별합니다. 많은 조직에서는 청구 분쟁, 보험금 청구, 계정 정보 업데이트, 배송 또는 서비스 상태 문의처럼 자주 발생하면서도 효율적으로 해결하기 어려운 고객 문의가 여기에 해당합니다.

이러한 고객 여정은 비용 대비 효과가 가장 뚜렷하게 나타나는 영역인 경우가 많습니다. 자동화된 고객 응대는 일반적으로 건당 미화 0.03~0.25달러의 비용이 드는 반면, 상담원이 직접 응대하는 경우에는 건당 미화 3.00~6.50달러의 비용이 발생합니다. 이러한 고객 응대가 지나치게 많이 상담원에게 이관되면, 기업은 계속해서 사람 중심의 고객 응대 비용 구조에서 벗어나지 못하게 됩니다. 특히 문의량이 많고 처리 과정이 복잡한 고객 여정에서 자동화로 해결되는 고객 응대의 비율을 높이는 것이 중요한 기회입니다.

목표는 상담원을 프로세스에서 완전히 배제하는 것이 아닙니다. 판단과 공감, 협상 또는 예외 처리가 필요한 순간에 상담원이 적절히 개입하도록 하는 것이 목표입니다.

에이전틱 오케스트레이션이 효과적으로 구현되면 전체 대화 맥락을 그대로 전달하고 반복적인 질문을 줄여, 고객이 처음부터 다시 설명하지 않아도 상담원이 자연스럽게 응대를 이어받을 수 있도록 지원합니다.

오케스트레이션의 또 다른 장점은 더욱 효과적인 피드백 루프를 구축할 수 있다는 점입니다.

조직은 고객 응대 결과와 에이전트 성과를 분석하여 워크플로를 개선하고, 에이전트 간 협업을 강화하며, 지식이나 시스템 통합의 부족한 부분을 파악하고, 시간이 지남에 따라 문제 해결률을 지속적으로 높일 수 있습니다.

IBM® watsonx Orchestrate는 고객 서비스 팀이 파편화된 자동화에서 벗어나 더욱 유기적이고 실행 중심적인 운영 모델로 전환할 수 있도록 지원합니다. 이를 통해 조직은 기존 시스템과 워크플로 전반에서 작동하는 AI 에이전트를 구축하고 거버넌스할 수 있으며, 기존 고객센터 환경을 전면 교체하지 않고도 문제 해결률을 높일 수 있습니다.

또한 Deepgram과 ElevenLabs 같은 파트너가 제공하는 음성 및 대화 기능을 포함한 개방형 에코시스템 접근 방식을 지원합니다. 이를 통해 기업은 고객이 원하는 상호작용 방식을 더욱 충실하게 반영하는 최신 기술 기반의 고객 경험을 설계할 수 있습니다.

무엇보다도 오케스트레이션과 실행, 거버넌스를 하나로 통합합니다. 즉, 고객 서비스 조직은 더 나은 응답을 생성하는 데 그치지 않고, 대화를 비즈니스 시스템과 연결하고, 여러 상호작용에 걸쳐 대화 맥락을 유지하며, 기업이 요구하는 통제 체계 안에서 운영할 수 있습니다. 그 결과 자동 해결률을 높이고, 상담원 의존도를 줄이며, 대규모 환경에서도 더욱 일관된 고객 서비스를 제공할 수 있는 기반을 마련할 수 있습니다.

Farmers State Bank의 사례를 통해 IBM watsonx Orchestrate의 활용 방식을 확인해 보세요.

IBM watsonx Orchestrate 살펴보기