AI 프로젝트가 실패하는 이유: 과학 실험의 함정과 이를 피하는 방법

쉽게 상상할 수 있습니다. 한 명의 과학자가 몇 주 동안 차고에 갇혀 있다가 세상을 변화시킬 발견을 가지고 나타납니다. 또는 몇 달에 한 번씩만 얼굴을 드러내어 최신의 획기적인 발명품을 발표하는 신비로운 기업 스컹크웍스 그룹도 있습니다.

진공 상태에서의 혁신, 즉 뛰어난 사람들이 고립되어 일하는 순간이 있었고 이 아이디어는 확실히 대중의 상상력 속에서 자리를 유지하고 있습니다

하지만 그것이 효과가 없고 실제로 득보다 실이 더 많을 수 있는 한 가지 상황을 말씀드리자면, 바로 기업 AI 채택입니다.

진공 상태에서 엔터프라이즈 AI 혁신을 구현하려는 시도는 실패할 것이 확실합니다. 전략적 이해관계자, 사업부 리더 및 협력자를 배제한다는 것은 궁극적으로 성공에 필요한 관점과 리소스를 무시한다는 것을 의미합니다.

IBM 기업가치연구소(IBV)의 2025년 CEO 연구에 따르면, AI 이니셔티브 중 기업 수준에서 규모를 확장한 비율은 16%에 불과한 이유가 바로 이러한 접근 방식 때문일 수 있습니다. MIT의 NANDA 이니셔티브의 최근 보고서에서는 생성형 AI 파일럿의 95%가 실패한다는 훨씬 더 암울한 결과를 공유했습니다.

많은 기업이 비실용적인 과학 실험에 불과한 여러 개념 증명(POC)에 참여하는 경우가 많습니다. 처음에는 경외심을 불러일으킬 수 있지만(또는 IBV가 지적한 것처럼 FOMO) 궁극적으로 미미한 가치를 산출합니다. 재무에 대한 깊은 배경 지식을 가진 사람으로서 저는 조직이 저조한 투자 수익률에 체념하는 것보다 훨씬 더 나은 성과를 낼 수 있다는 것을 잘 알고 있습니다.

규모를 달성하는 AI 이니셔티브는 조직의 작은 부분을 넘어 영향력을 발휘하고 마켓플레이스에서 실질적인 수익을 얻을 수 있습니다. 하지만 사일로를 초월하는 것은 우연히 이루어지는 것이 아닙니다. 이를 위해서는 최고 경영진과 이사회 구성원을 포함한 경영진의 조정과 지원이 필요합니다.

리더와 관리자는 효율성을 높이고 영향력을 높이는 협업과 시스템을 조율하는 데 도움을 줄 수 있습니다. 예를 들어, 여러 부서가 고유한 AI 사용 사례를 연구하는 경우, 서로 다른 팀이 어떤 AI 모델을 사용할지 연구하는 것부터 거버넌스 프로그램을 개발하는 것까지 중복 작업에 시간을 투자합니다. 반면, 팀이 함께 모이면 리소스를 결합하고 확장에 적합한 통합 접근 방식을 구축하여 더 큰 조직에 더 많은 가치를 제공할 수 있습니다.

이 통합 접근 방식에서 뛰어난 기업 중 하나는 PepsiCo입니다. 최근 몇 년 동안 PepsiCo는 IBM® Consulting과 협력하여 약 100개의 생성형 AI 사용 사례를 위한 통합 기술 플랫폼을 구축했습니다. PepsiCo 팀과 함께 데이터 및 AI 아키텍처를 매핑하고, 격차를 식별하고, 가장 중요한 생성형 AI 사용 사례를 위한 재사용 가능한 서비스를 만들었습니다.

재사용 가능한 서비스는 통합 기술 플랫폼을 통해 제공되어 사전 승인된 모델, 도구 및 모범 사례를 통해 기업 전체의 팀에 권한을 부여했습니다. 또한 이 플랫폼은 중앙 집중식 가시성을 가능하게 하여 프로젝트가 타사 공급업체를 통한 임시 개발로는 제공할 수 없는 PepsiCo 표준을 준수하도록 보장했습니다.

이러한 모든 기반을 바탕으로 PepsiCo 팀은 실험, 개발, 궁극적으로 시장 출시 시간을 단축했습니다. 그 결과 초개인화된 게토레이 병 디자인부터 소매 진열대에서 최적화된 제품 포지셔닝에 이르기까지 AI 기반 솔루션이 탄생했습니다.

올바른 플랫폼과 도구는 AI에 대한 확장가능한 통합된 접근 방식에 매우 중요합니다. 그러나 데이터와 문화라는 두 가지 다른 요소도 마찬가지로 중요합니다.

데이터는 성공적인 AI 프로그램의 중추입니다. 이것은 AI 모델이 학습하는 내용이며,또한 기업이 사용 사례를 추진할 가치가 있는지 판단하는 데 사용하는 기준입니다. 그러나 전문가들은 지금까지 기업 데이터의 1% 미만이 AI 모델에 통합된 것으로 추정합니다. 사용되지 않는 데이터는 기업에 엄청난 기회를 제공합니다.

이를 포착한다는 것은 AI 파일럿을 추구하면서 데이터 기반을 공고히 하는 것, 즉 데이터가 깨끗하고 체계적이며 안전한지 확인하는 작업을 의미합니다. PepsiCo의 경우, 이 기업은 IBM Consulting과 협력하여 60 페타바이트 이상의 데이터를 관리하기 위한 강력한 데이터 전략을 수립했습니다.

더 가깝게는, 데이터 정리는 에이전틱 AI로 인적 자원을 혁신하려는 IBM의 이니셔티브의 핵심 요소였습니다. 도메인별 고품질 데이터 세트에 대한 모델을 교육하고 미세 조정한 결과 80개 이상의 HR 작업을 자동화하고 현재 연간 150만 건의 직원 대화에 참여하는 가상 에이전트인 AskHR을 개발하는 데 도움이 되었습니다.

직원들은 AskHR을 사용하여 고용 확인서를 요청하고, 휴가 요청을 제출하고, 병가에서 보상에 이르기까지 모든 것에 대한 중요한 정보를 얻을 수 있습니다. 그 결과, 작년 기준으로 지원 티켓과 운영 비용이 크게 감소한 반면, HR 전문가는 전략적 우선순위에 집중할 수 있는 더 많은 여유를 갖게 되었습니다.

물론 직원들이 사용할 의향이 없었다면 AskHR은 그 규모를 달성하지 못했을 것입니다. 이는 다른 모든 엔터프라이즈 AI 이니셔티브에서도 마찬가지입니다. 엔터프라이즈 리더는 AI 채택에 대한 올바른 분위기와 문화를 확립하는 데 주의를 기울여야 합니다.

이는 AI가 직원의 업무를 강화하는 동시에 직원들이 이러한 혜택을 누릴 수 있도록 준비하는 방법에 대해 공개하는 것을 의미합니다. 후자의 경우 교육 및 기술 훈련 프로그램이 핵심입니다. AI 기반 도구의 작동 방식과 이를 가장 잘 사용하는 방법을 이해합니다.

많은 경우 관리자는 직원들과 함께 배우며, 이는 성공적인 엔터프라이즈 AI 채택이 팀 스포츠라는 사실을 강화하는 훌륭한 일입니다. 결국 우리 모두는 함께 배우고, 개선하고, 경계를 넓히고 있습니다. 스컹크웍스와 사일로는 적용될 필요가 없습니다.