비즈니스를 위한 AI 에이전트 확장 전략

비즈니스 리더들과 만나면 에이전틱 AI가 조직에 가져올 수 있는 잠재력에 대한 기대감이 고조됩니다. 동시에 에이전틱 AI를 어떻게 하면 효과적이고 효율적으로 배포할 수 있을지에 대한 답을 제시할 필요성도 분명합니다.

IBM® 기업가치연구소(IBV)의 새로운 연구에 따르면 비즈니스 리더들의 지지와 기대감이 커지고 있습니다. 설문조사에 참여한 응답자의 86%는 2027년까지 AI 에이전트를 통해 프로세스 자동화와 워크플로 개편이 더 효과적일 것으로 예상합니다.

기존 AI 또는 자동화 도구는 유용하기는 하지만 여전히 생산성 향상이 제한적이고, 근본적인 프로세스를 변화시키지는 못하고 있습니다. 에이전틱 AI를 사용하면 조직의 생산성과 효율성을 높일 수 있는 더 크고 전략적인 비즈니스 성과를 창출할 수 있습니다.

핵심은 AI가 우리에게 무엇을 해야 하는지 알려주는 것만이 아니라, AI가 스스로 그 일을 수행하기 시작하는 데 있습니다. 우리는 AI 어시스턴트를 넘어, 사람의 감독 하에 프로세스를 실행하고 조정할 수 있는 AI 에이전트의 가능성을 확장해야 합니다. 이러한 변화에는 업무 수행 방식을 근본적으로 재설계하는 과정이 필요하며, 이를 통해 비즈니스 리더들이 진정으로 달성하고자 하는 가치를 실현할 수 있습니다.

IBM 기업가치연구소(IBV)의 설문조사에 따르면 이미 76%의 경영진이 AI 에이전트를 통해 지능형 워크플로의 자율 자동화를 지원하는 개념 증명(POC)을 운영 및 제공하고 있다고 응답했습니다.

제가 함께 일해온 모든 고객은 에이전틱 AI에 대한 깊은 이해, 신뢰할 수 있는 관점, 에이전틱 AI 확장 경험을 원했습니다. 여기에는 충분한 이유가 있습니다. 에이전틱 AI는 조직을 혁신할 수 있는 큰 가능성과 엄청난 잠재력을 가지고 있지만, 이와 함께 기술적 요구 사항과 조직 내 문화적 변화의 필요성도 수반됩니다.

제 경험에 비추어 볼 때, '어떻게'가 고객사와 조직의 중요한 관심사로 떠올랐습니다. 이들은 비용 절감, 효율성, 생산성 측면에서 놀라운 결과를 달성하기를 기대하고 있습니다. 다음은 이 기술을 통합하고 확장하여 훌륭한 성과를 거두는 방법에 대한 제 인사이트입니다.

고객 서비스, 조달, 재무, 전체 IT 프로세스 등 에이전틱 AI가 활용되는 구체적인 분야는 다양하지만, 특히 고객 서비스 분야에서 상당한 기회를 발견할 수 있습니다.

실제로 우리는 기존의 챗봇과 자동화 도구를 사용하던 컨택 센터를 에이전틱 접근 방식으로 전환했습니다. 우리의 에이전틱 대화 경험 접근 방식에서는 챗봇과 같은 단일 스크립트 어시스턴트 대신, 더 광범위하고 복잡한 고객 문의를 처리할 수 있는 협업 AI 에이전트 팀을 도입합니다. 이를 통해 정의된 가드레일을 기반으로 운영하여 규정 준수와 일관성을 확보하면서, 상당한 효율성을 실현할 수 있습니다.

에이전틱 AI가 기존 챗봇보다 더 효과적인 이유는 단순히 스크립트를 따르는 것이 아니라, 동적으로 작업을 조정하고 예외에 대응하며 지속적으로 학습하는 등 총체적으로 모든 사항을 고려하여 작동할 수 있기 때문입니다. 에이전트는 고정된 순서로 작동하지 않습니다. 이들은 복잡한 작업을 실시간으로 해결하기 위해 서로 협력하고, 사람과도 협력하여 어떤 방법이 가장 효율적인지 판단합니다.

조직이 솔루션을 확장하고 개선된 결과를 얻기 위해서는, 먼저 에이전틱 AI를 효과적이고 효율적으로 구현하기 위한 선제적인 조치와 준비를 마련해야 합니다.

가장 먼저 해야 할 일은 비즈니스 내에서 기회를 파악하는 것입니다. 예를 들어 제가 조달 기능을 보다 효율적으로 개선하고 싶고, 에이전틱 솔루션을 도입하고자 한다고 가정해 보겠습니다. IBM에서는 고객사가 에이전틱 솔루션이 부가 가치를 제공하고 프로세스나 워크플로를 개선하는지 공식적으로 평가할 수 있도록 하는 방법론을 개발했습니다.

IBM의 에이전틱 AI 준비도 평가 접근 방식은 다음 사항을 기반으로 합니다.

• 프로세스 마이닝과 LLM 기반 프로세스 분석을 결합하여 수행하는 구조화된 평가
• 에이전틱 AI 및 자율적인 혁신에 가장 적합한 비즈니스 프로세스를 식별하기 위한 설계
• AI를 활용해 프로세스를 얼마나 잘 재설계할 수 있는지 평가하는 5가지 핵심 요소

'방법'의 두 번째 단계에서는 기본 엔터프라이즈 아키텍처 역량을 고려하고 아키텍처가 어떻게 발전해야 하는지 파악합니다. 이것은 기존의 통합 계층을 넘어, 자율적인 AI 기반 워크플로를 위해 설계된 현대적인 아키텍처를 구축하는 것을 의미할 수 있습니다. 필요한 역량은 다음과 같습니다.

• 멀티에이전트 오케스트레이션 및 이벤트 기반 통합
• 중앙 집중식 에이전트 카탈로그 및 라이프사이클 관리
• 에이전트 메모리 및 장기 컨텍스트 저장
• 모듈식 AI 지원 데이터 제품
• AI 에이전트에 맞게 조정된 거버넌스, 관측 가능성, 보안 계층

데이터는 AI의 성공적인 배포를 위한 핵심 요소이며, 초기 단계에서 반드시 논의되어야 하는 중요한 요소입니다. IBM의 관점은 경험, 프로세스, 데이터를 결합할 때만 이 에이전틱 AI 애플리케이션이 가치를 제공할 수 있다는 것입니다.

정형 및 비정형 데이터 관리, 데이터 품질 보장, 데이터 프라이버시 보호는 지속적인 과제입니다. 그러나 올바른 전략을 마련하면 비즈니스는 AI의 힘을 활용해 혁신과 미래 성장을 주도할 수 있습니다.

비즈니스에서 AI 혁신을 준비할 때 고려해야 할 세 가지 핵심 과제가 있습니다.

• 데이터에 대한 액세스: 2022년에 기업에서 생성되는 데이터* 중 90%가 비정형 데이터인 것으로 추정됩니다. 조직은 데이터가 어디에 있든 해당 데이터에 액세스하고 사용 사례에 맞게 통합해야 합니다.
• 실시간 분석 및 AI를 위한 고품질의 지능형 데이터: AI의 성능은 사용자가 입력한 데이터 품질에 달려 있습니다. 그 데이터를 AI 모델에 활용할 만큼 신뢰할 수 있나요? 데이터의 품질은 충분한가요? 데이터의 품질을 객관적으로 평가하는 방법은 무엇인가요? AI를 배포하기 전에 이러한 질문에 답할 수 있어야 합니다.
• 데이터 보안: 온프레미스든 멀티클라우드든, 데이터 보안은 전체 환경으로 확장되어야 합니다. 데이터가 어디에 있든, 정형이든 비정형이든 관계없이 모든 데이터를 고려해야 합니다.

고객이 고려해야 할 또 다른 핵심 요소는 강력한 변화 관리입니다. 특히 고객은 일상 업무의 일부로 AI를 도입해야 하는 사람들을 고려해야 합니다.

HR 혁신의 관점에서 사람의 역할을 재고하고 AI를 가장 가치 있게 활용할 수 있는 분야를 고려해야 하는 사용 사례를 구체적인 예로 들 수 있습니다. 많은 HR 부서 고객사들은 역할이 재구상되는 직원의 업스킬링 및 리스킬링에 대해 고민합니다.

변화 관리는 모든 AI 혁신의 필수적인 부분이 되어야 합니다. 이것은 단순히 기술적인 구현만 수행하는 것이 아니라, 고객이 기술, 프로세스, 인력 등 비즈니스를 원활하게 운영할 수 있도록 하는 전체 에코시스템을 고려해야 하는 전체적인 프로세스입니다.

에이전틱 AI를 통한 이러한 변화는 단순히 직원들의 변화와 업무 기능의 재구성에 그치지 않습니다. 예를 들어, IBM에서는 프로세스를 재구상하여 AI를 통합해 원활하게 최적화할 수 있는 워크플로를 만드는 것이 혁신을 가능하게 하고 IBM이 35억 달러의 생산성 향상을 달성하는 데 도움이 되었습니다.

우리는 에이전틱 AI를 비즈니스에 도입하기 위한 올바른 전략과 방법에 대해 고객에게 조언할 수 있는 도구와 전문 지식을 갖추고 있습니다.

'방법'을 확립하고 고객사가 에이전틱 AI를 성공적으로 확장하는 데 필요한 것이 무엇인지 이해했다면, 프로세스의 다음 단계는 에이전틱 AI를 비즈니스에 통합하는 것입니다.

1. 에이전틱을 위한 재설계: 에이전틱 AI는 업무 설계 및 실행 방식에 변화를 요구합니다.
   프로 팁: 에이전트와 함께 워크플로를 재구상해 보세요. 일상적인 업무는 AI에 위임하고 감독, 에스컬레이션, 부가 가치 판단 등 사람의 역할은 강화하세요.
2. 확장성 보장: 시스템과 기능 전반에 걸쳐 에이전트를 확장하려면 강력한 오케스트레이션이 필요합니다. 프로 팁: 에이전트가 여러 플랫폼에서 안전하게 작업하고, 작업을 조정하고, 프로세스 경계를 존중하고, 계층을 제어할 수 있도록 하는 강력한 에이전트 오케스트레이션 계층을 구현하세요.
3. 데이터 준비: 에이전트는 실행 가능한 고품질의 집중된 데이터에 액세스할 수 있어야 합니다.
   프로 팁: 선별, 관리 및 API에 액세스할 수 있는 사용 사례별 데이터 제품을 구축하여 에이전트가 실시간으로 컨텍스트에 따라 행동하는 데 필요한 구조화된 입력을 받을 수 있도록 하세요.
4. 성능 최적화: 규모에 따라 속도, 안정성, 비용의 균형을 맞추는 것이 중요합니다.
   프로 팁: 복잡성과 비용에 따라 에이전트 작업을 올바른 LLM 및 도구로 라우팅할 수 있는 플랫폼을 갖추세요. 캐싱, 스마트 폴백 모델, 사용량 제어를 사용해 ROI를 극대화하세요.
5. 신뢰성 테스트: 배포하기 전에 에이전트의 공정성과 설명 가능성을 모니터링해야 합니다.
   프로 팁: 에이전트 평가를 AgentOps 라이프사이클에 통합하세요. 배포 전과 프로덕션 환경에서 정확성, 편향, 견고성, 윤리 준수 여부를 지속적으로 자동으로 테스트하세요.
6. 거버넌스 설정: 신뢰할 수 있는 AI 실행을 위해서는 운영 제어 및 가시성이 필수적입니다.
   전문가 팁: 관측 가능성, 휴먼 인 더 루프(Human In The Loop) 통제, KPI 추적 및 감사 추적을 포함하는 거버넌스 프레임워크를 만들어 에이전트의 행동과 비즈니스에 미치는 영향을 모니터링하세요.
7. 신속한 배포 추진: 빠르게 가치를 실현하고 추진력을 확보합니다.
   프로 팁: 효과를 빠르게 입증하면서, 가치가 높은 좁은 범위의 사용 사례부터 시작하세요. 재사용 가능한 에이전트 템플릿과 모듈식 아키텍처를 사용해 기능 전반에 걸쳐 수평적으로 확장할 수 있습니다.
8. 비즈니스 가치 추적: 영향은 구체적이고 측정 가능해야 합니다.
    전문가 팁: 워크플로 수렴, 인간 인계율, 비즈니스 결과 개선 등의 KPI를 정의하세요. 이를 사용하여 반복 및 채택하고 경영진의 동의를 얻을 수 있습니다.

에이전틱 AI를 비즈니스에 통합할 때 세 가지 권장 사항이 있습니다.

• 프로세스 재구성: 망가진 프로세스를 고치는 데 그치지 않고, 증강된 접근 방식을 사용하여 프로세스를 완전히 새롭게 구상하세요.
• 에이전트 그 이상을 생각하세요: 사용자 경험, 프로세스 오케스트레이션, 필요한 데이터 제품 등 전체 엔드투엔드 비즈니스 프로세스를 고려하세요. 제공하려는 전반적인 경험에 대해 생각해 보세요.

확장성을 계획하세요: 처음부터 강력한 거버넌스와 현재 및 미래에 사용할 수 있는 고품질 데이터를 바탕으로 AI 아키텍처를 빠르게 확장할 수 있도록 설계하세요.

에이전틱 AI는 이미 기업 혁신의 중심에 있습니다. 기존 SaaS 플랫폼은 에이전트 마켓플레이스로 진화하고 있으며, 여기서 에이전틱 앱은 여러 시스템에서 AI 에이전트를 소싱, 호출, 오케스트레이션하여 완전한 워크플로를 실행할 수 있습니다.

기업은 엄격한 작업을 수행하기 위해 모놀리식 애플리케이션에 의존하는 대신, 작업을 동적으로 조정하고 상황에 대응하며 수동 개입의 필요성을 줄이는 다중 에이전트 시스템을 배포하기 시작할 것입니다.

이러한 혁신은 자율성, 속도 및 지속적인 최적화를 위해 구축된 디지털 운영을 위한 새로운 아키텍처의 시작을의미합니다.

* DC 백서: The untapped value of unstructured data