비즈니스 혁신을 위한 AI 에이전트 사용에 대해 CIO가 알아야 할 사항

CIO인 여러분은 AI를 둘러싼 기대감과 AI가 비즈니스를 변화시킬 수 있는 잠재력에 대해 이미 잘 알고 계실 것입니다. 생성형 AI와 에이전틱 AI로의 빠른 전환은, 이제 이 기술을 통해 실질적인 비즈니스 가치를 창출할 수 있는 놀라운 기회를 본격적으로 검토해야 할 시점임을 의미합니다.

AI는 고객 경험부터 운영에 이르기까지 비즈니스의 모든 측면을 혁신할 수 있는 잠재력을 가지고 있습니다. IBM은 업무의 미래가 인간 대 기계의 문제가 아니라, 인간과 기계가 협력하여 더 나은 결과를 이끌어내는 것이라고 굳게 믿고 있습니다. 다른 리더의 말을 빌리자면, "AI는 아이언맨 수트를 입은 토니 스타크와 같다"고 말하고 싶습니다.

우리 팀은 제가 냉소적인 낙관론자라고 말하겠지만, 분명히 말하건대 저는 AI 에이전트와 AI 어시스턴트를 사용하여 비즈니스 혁신을 주도하는 데 있어 매우 낙관적입니다. 저는 기본적으로 AI를 통한 기업의 생산성 향상을 믿으며, 또한 개방적인 접근 방식을 통해서만 잠재력을 발휘할 수 있다고 생각합니다. 저는 이러한 도구가 일상적인 작업을 자동화하고, 실시간 인사이트를 제공하고, 팀 효율성을 높이고, 고객 경험을 향상시키는 데 필수적이라고 생각합니다.

예, 이러한 낙관적인 잠재력과 이러한 잠재력을 실현하기 위한 기술적 요구 사이에는 매우 실질적인 차이가 있습니다. CIO로서 제가 매일 겪는 어려움입니다. 문제는 많은 CIO와 기술 리더들이 반짝이는 새 장난감(해석: AI)을 서둘러 사용하면서 더 깊은 플랫폼 수준에서 AI를 통합할 명확한 전략과 능력 없이 기존 소프트웨어 위에 챗봇이나 코파일럿만 더한다는 점입니다.

기업 생산성을 위해 AI의 가치를 제대로 활용하려면, 비즈니스가 스스로의 운영 방식과 그 운영을 이끄는 사고방식을 되돌아보는 내적 성찰의 시간이 필요합니다.

먼저 기준을 맞춰봅시다. AI는 단순히 업무를 자동화하는 것이 아니라 더 나은 의사 결정을 내리고, 더 효율적으로 일하며, 더 높은 가치의 프로젝트에 집중할 수 있도록 인간의 역량을 강화하는 것입니다.

AI 기반 혁신을 이루기 위해서는 조직 내 문화적 변화가 필요합니다. 리더부터 신입 직원까지, 비즈니스 문화는 기꺼이 실험하고, 실패로부터 배우고, 새로운 업무 방식에 빠르게 적응하는 문화여야 합니다.

생성형 AI 중심 기업이 된다는 것은 AI를 비즈니스 전략의 최전선에 두고 이를 활용하여 조직 전체의 혁신을 추진한다는 의미합니다. 이는 단지 AI를 도입했다는 사실을 강조하기 위해 모든 곳에 AI를 사용하는 것을 의미하지 않습니다. 전략적이고 목적이 분명하며, 완전히 실행 가능한 것입니다.

CIO는 AI 에이전트의 놀라운 잠재력을 활용하여 비즈니스를 혁신할 수 있는 독보적인 위치에 있습니다. AI를 최대한 활용하기 위한 여정은 AI를 기존 인프라에 원활하게 통합하는 것에서 시작됩니다. 시작하기 위한 몇 가지 주요 단계는 다음과 같습니다.

1. 기존 시스템에 AI 통합
2. 데이터의 품질과 신뢰성 보장
3. AI 우선 문화를 중심으로 팀 통합

기본적으로 AI 에이전트는 도구입니다. 확실히 큰 힘과 잠재력을 가진 것이지만 여전히 잠재력에 도달하기 위해서는 올바르게 사용되어야 합니다.

레거시 시스템을 빈티지 경주용 자동차라고 생각해보세요. 오래된 기술 시대에 만들어졌지만 잠재력은 있습니다. 최고의 최신 기술이 여기에 통합될 수 있도록 일부만 선별화여 최신화를 진행하면 됩니다. 그렇게 하면 전보다 더 강해진 모습으로 다시 레이스를 펼칠 수 있습니다.

우리는 중요한 플랫폼 통합과 데이터 형식 불일치 문제를 해결하기 전에 AI 에이전트를 사용하는 것이 어떤 모습인지 직접 경험해 보았습니다. 오래되고 사일로화된 시스템은 AI 도입을 방해하는 요인이 될 수 있습니다. 그렇다면 무엇을 할 수 있을까요?

1. 중요 워크플로우 매핑
2. 병목 지점 파악
3. 통합 우선순위를 지정하여 표적 데이터 사일로 제거

저희 팀의 경우 인프라 및 애플리케이션 환경을 최적화하고 엔드투엔드 비즈니스 프로세스를 재설계하는 작업이 포함되었습니다. 레거시 시스템과 최신 시스템 간의 상호 운용성을 간소화하기 위해 API 우선 아키텍처, 전략적 플랫폼 파트너 솔루션, IBM의 자동화 도구에 투자했습니다.

IBM은 상호 운용성 솔루션을 'Client Zero'로서 자사에 직접 사용해 보며 설명 가능성, 투명성, 신뢰성을 높이는 고품질 데이터를 사용하는 데 우선순위를 두었습니다. IBM은 이 분야에서 뛰어난 역량을 갖추고 있기 때문에 모델을 훈련시키고 자체 AI 에이전트를 프롬프트하는 데 사용하는 데이터에 대해 강한 신뢰를 갖고 있습니다.

AI를 위해 데이터를 준비하려면 책임, 투명성 및 설명 가능성을 포함하는 AI 우선 사고방식이 필요하며, 이 모든 것은 명확한 거버넌스 정책 및 지침을 통해 확립됩니다. 이는 곧 다음을 의미합니다.

1. 여러 소스 및 시스템의 데이터 통합
2. 정리되지 않거나 사일로화된 데이터 처리
3. 체계적이고 책임감 있는 데이터 큐레이션 및 준비
4. AI의 책임감 있고 윤리적인 사용을 위한 관리 관행 확립

제가 보기에 책임감 있는 AI 관행은 AI 전략의 필수 부분입니다. IBM과 마찬가지로 이러한 관행을 솔루션에 적용한 기업은 AI 솔루션이 미래에 제시할 수 있는 문제에 대응할 수 있는 위치에 서게 될 것입니다.

"문화는 전략을 아침 식사로 먹는다(Culture eats strategy for breakfast)”라는 피터 드러커(Peter Drucker)의 유명한 말, 들어보셨나요? 저는 그 말에 전적으로 동의합니다. AI 에이전트를 비즈니스 관행에 도입하는 일은 문화가 긍정적인 방향으로든, 부정적인 방향으로든 얼마나 강력한 힘을 가질 수 있는지를 보여주는 대표적인 사례입니다. 사람들은 변화가 부정적인 영향을 미칠 것이라고 생각하여 종종 변화에 저항하곤 합니다. AI에 대한 저항도 다르지 않으며, 이는 AI 도입과 가치 실현을 방해할 수 있습니다.

앞서 말씀드린 AI 중심 기업으로의 전환에 대해 기억하시나요? 이는 디지털 혁신이자 문화적 혁신이기도 합니다. 저는 낙관론자로서 문화가 더 나은 방향으로 변화할 수 있다고 믿습니다. 실제로 IBM에서 그 변화를 직접 목격하고 있습니다.

긍정적인 방식으로 AI 우선 문화를 조성하는 데 어떻게 도움을 줄 수 있을까요?

1. 리더십 동의 및 역할 모델링
2. 공통의 사명을 가진 부서 간 협업
3. 인간과 기계의 시너지 효과

IBM은 AI 중심 문화를 조성하기 위해 경영진의 적극적인 지원과 전사적인 지속 학습을 추진하고 있습니다. 단순한 구호에 그치지 않습니다. 이러한 종류의 문화적 변화가 자리를 잡으려면 구성원들의 지지와 참여가 눈에 띄게 드러나야 합니다. 그래서 처음에는 작게 시작하고, 몇 가지 성과를 낼 수 있습니다. 저희 팀이 AI 기반 자동화를 구현하고 수작업을 줄였을 때, 비용 절감과 효율성 향상이라는 성과를 냈고, 이는 조직의 지지를 얻는 데 도움이 되었습니다.

CIO는 사일로를 허물고 다양한 팀에게 가능성을 열어 주는 중요한 역할로서, 다른 비즈니스 리더들과 함께 우리를 위해 일하는 기술자들과 소통합니다. 우리는 AI 프로젝트에서 데이터 과학자, 도메인 전문가 및 비즈니스 리더를 연결하는 방법을 알고 있으며 직원, 고객 및 비즈니스의 개선을 위해 AI 에이전트를 사용한다는 공통된 사명을 가진 사람들을 통합합니다. AI 솔루션에 대한 이러한 공유된 이해와 주인 의식을 통해 문화를 변화시킬 수 있습니다.

저는 업무 프로세스에서 인간적인 접점을 유지해야 한다는 입장을 굳게 지지하는 사람입니다. 그래서 이 주제로 팟캐스트까지 운영하고 있죠! 이미 한 번 말했지만, 다시 말할 가치가 있는 부분입니다. AI 에이전트는 사람을 대체하는 것이 아니라 보완해야 합니다.

성장 마인드셋을 장려하세요. 직원들이 AI 같은 진화하는 기술에 대해 배울 수 있고 또 배워야 한다고 느낄 수 있는 환경을 조성하세요. 업스킬링과 리스킬링 기회를 제공해 직원들이 자신이 사용할 수 있는 AI 도구를 보다 능동적으로 활용할 수 있도록 돕고, 실험하고, 배우고, 반복하며 성장을 도모할 수 있도록 하세요.

저는 IBM이 이러한 마인드셋과 그에 따른 실험 정신을 지지한다는 사실이 자랑스럽습니다. 무엇보다 중요한 것은, 사람 간의 교류에서든, 고객과의 관계에서든 인간의 감독과 감정적 교감이 여전히 중심에 있다는 점입니다.

AI는 다단계 작업 자동화부터 실시간 데이터 기반 권장 사항 제공에 이르기까지 비즈니스에 혁신적인 기회를 제공합니다. 우리 팀이 현재 AI를 사용하는 세 가지 방법:

1. IT 시스템 사용자와의 상호 작용(예: AskSales, AskProcurement)
2. 계약 인텔리전스(contract intelligence)를 활용하기 위해 고객과의 파트너십(예: Sirion Labs 협업)
3. 복잡하고 상호 연결된 엔터프라이즈 시스템 및 환경에 대한 강력한 테스트를 수행할 수 있도록 지원합니다.

CIO로서 제 역할은 프로세스의 문제점을 파악하고, 매핑하고, 정리하고, 평준화하여 AI 솔루션이 효과적으로 작동하도록 하는 것이라고 생각합니다. AI 기술에 대한 깊은 이해와 모든 장애물에 대한 선제적인 AI 우선 접근 방식을 통해 AI 에이전트를 통해 엄청난 생산성 향상과 더 큰 비즈니스 혁신을 이룰 수 있다고 확신합니다.