업데이트: 2024년 9월 10일
기고자: Matthew Finio, Amanda Downie
조직에 인공 지능(AI)을 확장한다는 것은 비즈니스 전반에 걸쳐 AI 기술을 통합하여 프로세스를 개선하고 효율성을 높이며 성장을 촉진하는 동시에 위험을 관리하고 규정 준수를 강화하는 것을 의미합니다.
AI의 대규모 활용은 디지털 네이티브 기업을 넘어 제조, 금융, 의료 등 다양한 산업으로 확산하고 있습니다. 기업들은 AI 기술 도입을 서두르면서 단절된 AI 프로젝트에서 완전한 디지털 혁신으로 진화하여 여러 부서 및 비즈니스 프로세스를 아우르는 AI 시스템을 구현하고 있습니다.
일반적인 AI 프로젝트에는 데이터 수집 및 관리의 현대화와 IT 서비스 관리(AIOps) 자동화 및 간소화가 포함됩니다. 또한 독창적인 콘텐츠를 만들 수 있는 AI인 생성형 AI는 대량 작업을 혁신하고 생산성을 높이고 있습니다. 여기에는 코드 현대화, 워크플로 자동화, AI 기반 챗봇 사용을 통한 고객 경험 및 서비스 재창조가 포함됩니다.
AI는 조직의 운영에 깊이 접목되었을 때 가장 큰 가치를 발휘합니다. 그러나 AI 확장은 한두 개의 모델을 생산 환경에 배포하는 것 이상으로 고유한 과제를 수반합니다.
AI 구현이 기업 전반으로 확장됨에 따라 잠재적인 성능 저하 및 AI 모델 작동에 대한 가시성 제한을 포함하여 위험과 복잡성도 커지고 있습니다. 생성형 AI의 확산으로 데이터의 양은 계속 기하급수적으로 증가하고 있습니다. 조직은 이러한 데이터를 활용하여 AI를 학습시키고 테스트 및 개선해야 하지만, 이 과정에서 거버넌스 및 보안을 우선시해야 합니다.
따라서 AI 확장에 전념하는 조직은 기능 저장소, 코드 자산, 머신 러닝 운영(MLOps)과 같은 핵심 지원 기술에 투자해야 합니다. 이러한 기술은 다양한 비즈니스 기능에서 AI 애플리케이션을 효과적으로 관리하는 데 도움이 됩니다.
MLOps는 빠르고 안전하며 효율적인 AI 개발, 배포 및 적응을 위한 모범 사례와 도구를 정립하는 것을 목표로 합니다. 이는 성공적인 AI 확장을 위한 기반이며, 배포를 관리하면서 시장 출시 속도를 높이기 위해 프로세스, 인력 및 도구에 대한 전략적 투자가 필요합니다.
기업은 MLOps를 도입함으로써 AI 확장의 과제를 극복하고 잠재력을 최대한 활용하여 지속 가능한 데이터 기반 혁신과 성장을 추진할 수 있습니다. 또한 애플리케이션 프로그래밍 인터페이스(API)를 통해 클라우드 서비스 및 대규모 언어 모델(LLM)과 같은 AI 플랫폼을 사용하면 AI에 대한 액세스를 대중화하고 전문 인재에 대한 수요를 줄일 수 있습니다.
기업은 여러 IT 환경에서 AI를 안전하게 확장하기 위해 개방적이고 신뢰할 수 있는 기술 아키텍처를 도입해야 하는데, 이 경우 하이브리드 클라우드 인프라를 기반으로 하는 것이 이상적입니다. 이러한 아키텍처는 조직 전체에서 사용할 수 있는 AI 모델을 지원하여 다양한 사업부 간의 안전하고 효율적인 협업을 촉진합니다.
성공적인 AI 확장을 위해서는 총체적인 엔터프라이즈 혁신이 필요합니다. 이는 AI에 초점을 맞춰 혁신하고 AI가 제품 혁신, 비즈니스 운영, 기술 운영, 인력 및 문화를 포함한 전체 비즈니스에 영향을 미치는 근간임을 인식하는 것을 의미합니다.
AI 확장에는 머신 러닝 (ML) 및 AI 알고리즘의 사용을 확장하여 비즈니스 수요의 속도에 맞춰 일상적인 작업을 효율적이고 효과적으로 수행하는 것이 포함됩니다. 이를 달성하려면 AI 시스템에는 속도와 규모를 유지하기 위한 강력한 인프라와 상당한 양의 데이터가 필요합니다.
확장 가능한 AI는 비즈니스의 여러 부분에서 수집한 고품질 데이터를 통합하고 완성하여 원하는 결과를 달성하는 데 필요한 포괄적인 정보를 알고리즘에 제공합니다.
또한, 확장 가능한 AI가 최대한의 잠재력을 발휘하려면 AI 아웃풋을 해석하고 이를 바탕으로 조치를 취할 수 있는 인력을 갖추는 것이 중요합니다. 이러한 필수 요소를 구현하는 AI 전략을 통해 조직은 더 빠르고 정확하고 개인화된 혁신적인 운영을 경험할 수 있습니다.
AI를 성공적으로 확장하는 데 일반적으로 사용되는 주요 단계는 다음과 같습니다.
- 데이터 과학으로 시작: 먼저 데이터 과학 및 기계 학습 전문가와 협력하여 비즈니스 목표에 맞는 알고리즘을 개발합니다. 적절한 API를 사용하여 요구 사항에 맞는 대규모 언어 모델을 학습시킬 수 있습니다. 데이터 과학자는 궁극적으로 혁신과 효율성을 주도하는 모델을 설계하는 데 중요한 역할을 합니다.
- 데이터 세트 찾기 및 수집: 올바른 데이터 세트를 식별하고 수집하는 것은 AI 모델을 학습시키는 데 필수적입니다. 이러한 데이터 세트에는 고객 기록, 거래 내역과 같은 내부 소스와 시장 동향 및 연구 보고서와 같은 외부 소스가 포함됩니다. 정확한 AI 모델 성능을 위해 데이터 품질 및 관련성을 보장하는 것이 중요합니다.
- 여러 부서의 이해관계자 참여: 고객 서비스, 재무, 법무 등 다양한 부서의 이해관계자를 참여시킵니다. 이러한 이해관계자는 데이터 과학팀과 협력하여 AI 모델을 개발하고 특정 비즈니스 요구 사항 및 과제에 맞게 조정하는 데 도움을 줄 수 있습니다.
- 데이터 라이프사이클 관리: 데이터 소스를 통합하고 업데이트하는 안전하고 표준화된 데이터 구조를 개발합니다. 데이터 라이프사이클 관리를 통해 AI 모델을 학습시키고 검증하기 위한 데이터를 관련성 있는 최신 상태로 유지할 수 있습니다.
- MLOps 최적화 및 간소화: 데이터 과학 및 IT 팀의 역량에 적합하고 조직의 IT 인프라 및 기본 클라우드 제공업체를 지원하는 MLOps 플랫폼을 선택합니다. 간소화된 MLOps는 AI 배포 및 유지보수를 개선합니다.
- 부서 통합 AI 팀 구성: 다양한 비즈니스 영역의 이해관계자를 포함하는 다분야 AI 팀을 구성하여 부서 간 협업을 촉진합니다. 이 접근 방식은 AI 이니셔티브를 강화하고 비즈니스 목표에 대한 포괄적인 이해를 촉진합니다.
- 성공 가능성이 높은 프로젝트 선택: 성공 가능성이 높은 프로젝트를 선택하여 초기에 성공을 거두고 더 야심 찬 미래의 프로젝트를 진행하기 위한 추진력을 얻습니다. 사용 사례의 예로 고객 서비스, 인재 관리, 앱 현대화를 들 수 있습니다. AI CoE(Center of Excellence)를 설립하는 것도 이러한 노력에 도움이 될 수 있습니다.
- 거버넌스 및 규정 준수 통합: 처음부터 AI 거버넌스와 보고 기능을 통합합니다. 데이터 관리, 데이터 과학 및 비즈니스 운영을 위한 도구에 거버넌스 기능을 내장합니다. 모든 AI 프로세스에 규정 준수 및 보고 기능을 통합하여 윤리적 표준을 준수합니다.
- 올바른 도구 사용: 클라우드 기반 데이터 사이언스 플랫폼을 사용하여 AI 거버넌스 및 규정 준수 문제에 대해 데이터 과학자, IT 엔지니어, 사업가 간의 협업을 촉진합니다. 강사가 AI 모델을 효과적으로 실험, 개발 및 확장할 수 있는 환경을 제공합니다. 이러한 환경은 AI 시스템의 효율적인 배포 및 유지 관리를 지원합니다.
- AI 모델을 엔드투엔드 모니터링: 속도, 비용, 추론, 사용자 가치와 같은 메트릭을 고려하여 AI 모델을 엔드투엔드 추적하세요. 실시간 모니터링과 핵심 성과 지표(KPI) 추적을 통해 조직은 잠재적인 문제를 신속하게 파악하고 시간이 지남에 따라 성과를 최적화할 수 있습니다.
조직 내에서 AI를 확장하는 과정은 신중한 계획과 리소스 할당이 필요한 몇 가지 복잡한 요소가 수반되어 까다로울 수 있습니다. AI를 대규모로 성공적으로 배포하고 도입하기 위해 이러한 과제를 해결하는 것이 중요합니다.
AI는 텍스트, 이미지, 동영상, 소셜 미디어 콘텐츠 등 다양한 형태로 제공되는 데이터에 크게 의존합니다. 데이터 관리, 데이터 보안,데이터 마이닝(대규모 데이터 세트의 구성 및 분석)을 포함하는 데이터 엔지니어링에는 클라우드 기반 데이터 레이크하우스와 같은 확장 가능한 데이터 스토리지 솔루션에 대한 전문 지식과 투자가 필요합니다. 외부 및 내부 위협으로부터 보호하기 위해 데이터 개인정보 보호 및 보안을 보장하는 것이 중요합니다.
AI 확장에는 비즈니스 전문가, IT 및 데이터 과학 전문가를 포함해 여러 팀 간의 협업이 필요한 반복적인 프로세스가 수반됩니다. 비즈니스 운영 전문가는 데이터 과학자와 긴밀히 협력하여 AI 아웃풋이 조직의 지침에 부합하도록 해야 합니다. 검색 증강 생성(RAG)을 이용해 기본 모델을 수정하지 않고도 조직 데이터를 기반으로 AI 아웃풋을 최적화할 수 있습니다.
AI를 확장하는 데 사용되는 도구는 3가지 카테고리로 나뉩니다. 데이터 과학자가 ML 모델을 구축하기 위한 도구, IT 팀이 데이터 및 컴퓨팅 리소스를 관리하기 위한 도구, 비즈니스 사용자가 AI 아웃풋과 상호 작용하기 위한 도구가 바로 그것입니다. MLOps와 같은 통합 플랫폼은 이러한 도구를 간소화하여 AI 확장성을 향상하고 모니터링, 유지보수 및 보고를 용이하게 합니다.
ML 모델을 설계하고 학습시키고 및 배포할 수 있는 심층적인 도메인 지식을 갖춘 개인을 찾기란 어렵고 비용이 많이 들 수 있습니다. 대규모 언어 모델에 클라우드 기반 MLOps 플랫폼 및 API를 사용하면 AI 전문 지식에 대한 수요를 일부 완화하는 데 도움이 될 수 있습니다.
파일럿 프로젝트를 확장된 AI 이니셔티브로 발전시킬 때 큰 혼란을 피하기 위해 관리 가능한 범위에서 시작하는 것이 좋습니다. 초기 성공은 자신감과 전문성을 쌓아 향후 더 야심 찬 AI 프로젝트를 추진할 수 있는 기반이 됩니다.
AI 프로젝트를 개념 증명 단계 이상으로 진행하는 데는 복잡성에 따라 3개월에서 36개월까지 상당한 시간이 소요될 수 있습니다. 데이터를 수집, 통합, 준비하고 AI 아웃풋을 모니터링하는 데 많은 시간과 노력을 투자해야 합니다. 오픈 소스 도구, 라이브러리 및 자동화 소프트웨어를 사용하면 이러한 프로세스를 가속화하는 데 도움이 될 수 있습니다.
이러한 6가지 주요 과제를 해결함으로써 조직은 AI 확장의 복잡성을 헤쳐나가 운영을 개선하고 비즈니스 가치를 창출하는 잠재력을 극대화할 수 있습니다.
IBM은 AI 기반 서비스 플랫폼인 IBM Consulting Advantage를 사용하여 목적에 맞게 특화된 생성형 AI 에이전트, 어시스턴트 및 자산으로 전문성을 강화함으로써 규모에 맞는 솔루션을 제공하고 고객의 가치 창출 시간을 단축합니다.
AI로 비즈니스 운영 방식을 재창조하세요.
AI 빌더가 AI 모델을 학습시키고 검증, 조정 및 배포할 수 있는 차세대 엔터프라이즈 스튜디오를 살펴보세요.
믿을 수 있는 AI 솔루션으로 비즈니스의 미래를 설계하세요.
복잡성과 불확실성, 역동성이 증가함에 따라 CEO가 내려야 할 결정에 대해 알아보세요.
IBM이 AI 서비스 플랫폼에서 접근성과 확장성이 뛰어난 맞춤형 AI 도구를 사용하여 더욱 빠르게 고객 가치를 창출하고 제공하는 방법을 알아보세요.
단독 모델과의 채팅을 통해 watsonx.ai에서 생성형 AI 활용을 경험해 보세요.
성장을 촉진하는 AI 투자의 우선순위를 정하는 데 필요한 지식을 얻을 수 있도록 비즈니스 리더를 위해 설계된 커리큘럼을 살펴보세요.
Bouygues Telecom이 IBM Consulting을 통해 AWS에서 AI를 확장하여 신속한 혁신을 달성한 방법을 알아봅니다.
IBM AI@Scale을 통해 조직 전반의 데이터 과학을 강화한 Wintershall Dea의 사례를 읽어보세요.