API 기반 상담사로 자동화를 최적화하는 AI 어시스턴트

생성형 AI 기반 어시스턴트는 지능형 대화형 인터페이스를 통해 비즈니스를 혁신하고 있습니다. 인간과 유사한 응답과 콘텐츠를 이해하고 생성할 수 있는 이 어시스턴트는 인간과 기계가 협업하는 방식을 혁신하고 있습니다. 대규모 언어 모델(LLM)은 이러한 새로운 혼란의 중심에 있습니다. LLM은 방대한 양의 데이터에 대해 학습되며, 다양한 애플리케이션에서 사용할 수 있습니다. 몇 가지 교육 예제를 통해 특정 기업 사용 사례에 맞게 쉽게 조정할 수 있습니다.

우리는 AI 어시스턴트가 대화를 넘어 애플리케이션 프로그래밍 인터페이스(API)를 호출하여 특정 비즈니스 목표를 달성할 수 있는 에이전트를 통해 도구를 활용하는 방법을 배우는 새로운 진화의 단계를 목격하고 있습니다. 이제 몇 시간씩 걸리던 작업도 재사용 가능한 방대한 에이전트 카탈로그를 오케스트레이션함으로써 몇 분 만에 완료할 수 있습니다. 또한 이러한 에이전트를 함께 구성하여 복잡한 워크플로를 자동화할 수도 있습니다.

AI 어시스턴트는 API 기반 에이전트를 사용하여 직무 설명 작성, HR 시스템에서 보고서 가져오기, 후보자 소싱 등과 같은 일상적인 작업을 지식 근로자에게 지원할 수 있습니다. 예를 들어, HR 관리자는 AI 어시스턴트에게 새로운 역할에 대한 직무 설명을 작성해 달라고 요청하고, 어시스턴트는 회사의 요구 사항을 충족하는 자세한 직무 설명을 생성할 수 있습니다. 마찬가지로 채용 담당자는 AI 어시스턴트에게 채용 후보자를 찾아달라고 요청할 수 있으며, 어시스턴트는 다양한 출처에서 자격을 갖춘 후보자 목록을 제공할 수 있습니다. AI 어시스턴트를 통해 지식 근로자는 시간을 절약하고 더 복잡하고 창의적인 문제에 집중할 수 있습니다.

자동화 빌더는 AI 어시스턴트의 강력한 기능을 활용하여 빠르고 쉽게 자동화를 생성할 수도 있습니다. 수수께끼처럼 들릴 수도 있지만 AI 어시스턴트는 생성형 AI를 사용하여 자동화 프로세스 자체를 자동화합니다. 이를 통해 에이전트를 더 쉽고 빠르게 구축할 수 있습니다. 비즈니스 자동화를 위한 에이전트를 구축하는 데는 두 가지 필수 단계가 있습니다. 대상 사용 사례에 맞게 에이전트를 교육하고 강화하는 것과 여러 에이전트의 카탈로그를 오케스트레이션하는 것입니다.

API는 AI 에이전트의 중추입니다. API 기반 에이전트 구축은 사용자와 대화 방식으로 상호 작용하고, 사용자 목표를 달성하는 데 필요한 API를 식별하고, API에 필요한 인수를 수집하기 위해 질문을 하고, API 호출 시 필요한 사용자 제공 정보를 감지하고, 샘플 발화로 API를 보강하고, API 반환 값에 따라 응답을 생성하는 복잡한 작업입니다. 숙련된 개발자의 경우 이 프로세스에 몇 시간이 걸릴 수 있습니다. 그러나 LLM은 이러한 단계를 자동화할 수 있습니다. 이를 통해 빌더는 특정 작업에 맞게 API를 더 빠르게 학습시키고 강화할 수 있습니다.

자동화 빌더인 Bob이 회사 판매자가 대상 고객 목록을 검색하는 데 도움이 되는 API 기반 에이전트를 만들고 싶다고 가정해 보겠습니다. 첫 번째 단계는 '내 고객 검색' API를 AI 어시스턴트로 가져오는 것입니다. 그러나 이 자동화를 에이전트로 사용하려면 Bob은 샘플 발화로 자연어 분류기를 학습시키는 등 몇 가지 수동적이고 지루한 단계를 수행해야 합니다. LLM의 도움으로 AI 어시스턴트는 OpenAPI 사양에서 샘플 학습 발화를 자동으로 생성할 수 있습니다. 이 기능을 사용하면 필요한 수동 작업을 크게 줄일 수 있습니다. 파운데이션 모델이 의미론적 이해를 위해 미세 조정되면 비즈니스 사용자의 프롬프트와 의도를 더 잘 이해할 수 있습니다. Bob은 여전히 인간 개입(human-in-the-loop) 접근 방식을 사용하여 생성된 질문을 검토하고 조작할 수 있습니다.

곧 API를 식별하고, 슬롯을 채우고, API를 강화하여 에이전트를 구축하는 프로세스가 완전히 자동화될 것입니다. 이를 통해 자동화를 생성하고, 기술 장벽을 줄이며, 재사용 가능한 에이전트 카탈로그를 개선하는 데 걸리는 시간을 단축할 수 있습니다.

여러 API를 사용하는 빌딩 자동화 플로는 기술적으로 복잡하고 시간이 많이 걸릴 수 있습니다. 여러 API를 연결하려면 특정 비즈니스 목표를 달성하기 위해 올바른 API 세트를 식별, 시퀀스 및 호출하는 것이 중요합니다. AI 어시스턴트는 LLM 및 계획 기술을 사용하여 이 프로세스를 간소화하고 기술적 장벽을 줄입니다. LLM은 사용법, 유사성 및 설명을 기반으로 가장 적합한 API를 제안하는 강력한 추천 시스템으로 작동할 수 있습니다.

빌더는 멀티 에이전트 자동화를 구성하기 위해 여러 API의 입력과 아웃풋을 조정해야 하며, 이는 지루하고 오류가 발생하기 쉬운 프로세스입니다. LLM 기반 API 매핑은 API 속성 및 문서를 기반으로 이 정렬 프로세스를 자동화합니다. 이를 통해 자동화 빌더는 수동 개입 없이 대규모 카탈로그의 기존 API를 더 쉽게 재사용할 수 있습니다.

이제 자동화 빌더인 Bob이 판매자가 고객 목록을 검색한 후 개인화된 제품 추천 목록을 생성할 수 있는 보다 복잡한 다중 API 자동화를 생성하려고 한다고 가정해 보겠습니다. '내 고객 검색' API 에이전트를 가져오고 강화한 후 LLM 기반 시퀀싱 기능이 '제품 추천 생성' API를 자동으로 추천할 수 있습니다. 즉, Bob은 광범위한 상담원 카탈로그에서 가장 적합한 API를 찾기 위해 각 API를 개별적으로 살펴볼 필요가 없습니다.

또한 각 API에는 다양한 데이터 유형의 필드가 포함되어 있습니다. 소스 API는 고객 집합에 대한 정보를 나타내는 아웃풋 필드를 제공합니다. 대상 API는 고객 정보를 나타내는 입력 필드를 제공합니다. 일반적으로 Bob은 대상 API의 각 필드를 소스 API의 해당 필드에 수동으로 매핑하는 데 시간을 소비해야 했습니다. 이러한 지루한 작업은 소스 API와 대상 필드의 수가 늘어날수록 더욱 힘들어집니다. API 매핑 서비스는 Bob이 신속하게 검토, 편집 및 저장할 수 있는 정렬 제안 세트를 생성할 수 있습니다.

IBM® watsonx Orchestrate는 AI 모델(LLM 포함)을 조합하여 API 강화, 시퀀싱 및 매핑 권장 사항을 통해 AI 에이전트 구축 과정을 단순화합니다. 진화의 새로운 단계에서 AI 어시스턴트는 비기술 지식 근로자가 정의한 비즈니스 목표를 달성하기 위해 런타임에 여러 API를 시퀀싱할 수 있게 되어 자동화가 더욱 민주화될 것입니다. 기업은 AI 어시스턴트를 활용하여 자동화 이니셔티브를 가속화하고 더 많은 가치를 창출하는 영역에 상당한 리소스를 재배치할 수 있습니다.