2025년 AI 도입의 5가지 주요 과제

5년 전, IBM의 롭 토마스(Rob Thomas)와 폴 지코풀로스(Paul Zikopoulos)는 성공적인 인공 지능(AI) 도입을 위한 프레임워크이자 AI 여정을 이해하고 가속화할 수 있도록 돕는 통합적이고 실용적인 접근 방식인 'AI 사다리(AI Ladder)'를 구축했습니다. 이 프레임워크는 책으로 출간되었으며, 당시에는 상당히 신선하게 느껴졌던 한 문구로 소개되었습니다.

"모두가 AI에 대해 이야기하고 있습니다. 어째서일까요? "우리는 AI가 모든 산업과 규모의 기업에 엄청난 기회를 제공한다고 믿습니다."

현재의 AI 환경을 생각하면, 롭과 폴이 AI가 큰 변화를 가져올 것이라는 점을 독자들에게 설득해야 했던 시절을 떠올리는 게 다소 재미있게 느껴집니다. 현대화, 수집, 정리, 분석 및 주입이라는 사다리의 '단계' 역시 주목할 만합니다.

2020년 당시에는 아직 첫 번째 단계조차 밟지 못한 조직들이 많았습니다. 불과 5년 후인 지금에는 McKinsey 보고서가 언급하지 않아도 AI가 미래라는 사실이 분명해졌습니다.

거의 모든 조직이 어느 정도는 AI를 도입할 수 있습니다. 새로운 기술의 발전 덕분에 즉각적인 투자 수익(ROI)을 창출하는 AI 통합을 더 쉽게 달성할 수 있게 되었습니다.

AI에 대한 열정이 부족한 것은 AI의 잠재력에 대한 불확실성 때문이 아니라, 제대로 활용하기 위한 방법과 관련된 문제입니다.

IBM 기업가치연구소(IBV)는 AI 도입과 관련하여, 구체적으로는 조직이 생성형 인공 지능(생성형 AI) 분야에서 진전을 이루는 데 여전히 어떤 장애물에 직면해 있는지에 관한 흥미로운 데이터가 담긴 보고서를 발표했습니다. 

응답자의 거의 절반이 데이터 정확성이나 편향성에 대해 우려를 표시했습니다. 비즈니스 리더는 거버넌스, 투명성 및 AI 윤리를 우선시함으로써 이러한 우려를 극복할 수 있습니다.

AI 거버넌스는 AI 기술을 개발하고 적용하는 데 있어 규정 준수, 신뢰, 효율성을 달성하는 데 필수적입니다. 효과적인 AI 거버넌스는 혁신과 신뢰를 촉진하면서 편향, 개인정보 침해 및 오용과 같은 위험을 해결하는 감독 메커니즘을 포함합니다. 

윤리적인 AI 위원회 및 규제 프레임워크 준수와 같은 강력한 거버넌스 구조는 책임감 있는 AI를 배포하는 데 도움이 됩니다.

AI 윤리는 위험과 부정적인 결과를 줄이면서 AI가 가져다주는 유익한 영향을 최적화하는 방법을 연구하는 다학문 분야입니다. AI 윤리는 데이터 책임과 개인정보 보호, 공정성, 설명 가능성, 견고성, 투명성 및 기타 윤리적 고려 사항을 포괄합니다.

공정성 검사 및 기타 시정 조치는 AI 윤리에 해당하며, 신뢰할 수 있고 공평한 AI 아웃풋을 보장하는 데 도움이 됩니다.

AI 투명성은 사람들이 정보에 접근하여 AI 솔루션이 어떻게 만들어지고 어떻게 의사 결정을 내리는지 더 잘 이해할 수 있도록 도와줍니다. 연구자들은 AI를 '블랙박스'라고 표현하기도 하는데, 이는 기술의 복잡성이 증가함에 따라 AI 결과를 설명, 관리 및 규제하기가 여전히 어려울 수 있기 때문입니다. AI 투명성은 이 블랙박스를 열어 AI 결과를 더 잘 이해하는 데 도움이 됩니다.

응답자의 약 42%는 조직이 충분한 독점 데이터에 대한 액세스를 갖고 있지 못하다고 답했습니다. 기업은 생성형 AI 모델을 맞춤화하기 위한 고품질 데이터 부족이라는 중대한 과제를 극복하기 위해 데이터 증강, 합성 데이터 생성, 전략적 데이터 파트너십을 결합할 수 있습니다.

한 가지 효과적인 접근 방식은 완전히 새로운 데이터를 수집하지 않고도 의역, 번역 또는 노이즈 추가와 같은 증강 기술을 통해 기존 데이터 세트를 개선하고 다양성을 높이는 것입니다.

컴퓨터 시뮬레이션을 통해 인공적으로 생성되거나 AI 알고리즘에 의해 생성된 합성 데이터로 실제 데이터를 대체할 수 있습니다. 실제 데이터를 쉽게 사용할 수 없는 경우에 이러한 데이터를 실제 데이터의 대안 또는 보완책으로 사용할 수 있습니다.

또 다른 주요 전략은 전략적 파트너십을 형성하고 업계 전반의 데이터 공유 이니셔티브에 참여하는 것입니다. 기업은 비경쟁 기업, 연구 기관 또는 컨소시엄과의 협력을 통해 윤리적 문제를 피하고 법적 표준을 준수하면서 더 크고 다양한 데이터 세트에 액세스할 수 있습니다.

원시 데이터를 공유하지 않고 분산형 데이터 소스에서 모델을 학습하는 페더레이션 학습은 보안 및 규정 준수를 유지하면서 외부 데이터의 이점을 활용할 수 있는 또 다른 방법입니다.

생성형 AI는 아직 새로운 개념이지만, 기업은 인재 개발, 전략적 파트너십 및 접근 가능한 AI 도구에 투자하여 생성형 AI 전문 지식 부족 문제를 해결할 수 있습니다.

가장 효과적인 접근 방식 중 하나는 AI 및 머신 러닝(ML)에 대한 전문 교육 프로그램, 워크샵 및 인증을 통해 기존 직원의 기술을 향상하는 것입니다. AI 도구에 대한 실무 경험을 제공하고 지속적인 학습 문화를 조성하면 내부적으로 기술 격차를 해소하는 데 도움이 됩니다.

기업은 자체적으로 전문 지식을 개발하는 것 외에도 AI 공급업체, 연구 기관 및 컨설팅 회사와 협력하여 전문 지식에 접근할 수 있습니다.

AI 스타트업 또는 기술 제공업체와의 파트너십을 활용하면 모든 것을 처음부터 직접 구축할 필요 없이 외부의 전문 지식을 활용할 수 있습니다. 오픈 에코시스템에 참여하면 AI 전략 구현의 복잡성을 줄여주는 귀중한 통찰력과 사전 구축된 모델을 확보할 수도 있습니다.

또 다른 해결책은 기술적 배경이 제한된 직원이 생성형 AI로 작업할 수 있도록 하는 로우코드 또는 노코드 AI 플랫폼을 채택하는 것입니다. 이러한 도구는 AI 배포와 사용자 정의를 간소화하여 기업이 깊은 전문 지식 없이도 AI를 워크플로에 통합할 수 있도록 해줍니다.

기업은 비용 절감, 매출 성장, 경쟁 우위 및 위험 완화에 중점을 두어 생성형 AI 이니셔티브를 탐색하기 위한 재정적 타당성을 마련하는 데 접근해야 합니다.

비즈니스 프로세스 자동화, 마케팅 콘텐츠 생성, 디지털 혁신 가속화 등 생성형 AI 기능이 효율성을 높일 수 있는 구체적인 사용 사례를 파악해야 합니다.

기업은 공급망 자동화로 인한 인건비 절감, 출시 시간 단축, 고객 참여 개선 등 AI의 이점을 정량화하여 ROI를 추정할 수 있습니다.

또한 AI 기반 제품 제공, 개인화된 고객 경험, 실시간 의사 결정 등 새로운 수익원의 잠재력을 모두 고려해야 합니다. 위험도가 낮은 소규모 파일럿 프로젝트로 시작하면 추가 투자를 정당화할 수 있는 가시적인 결과를 얻을 수 있습니다.

위험 평가 역시 재정적 정당화에 중요한 역할을 합니다. 조직은 AI 기반 경쟁업체에게 시장 점유율을 빼앗기거나 AI 프로젝트로 해결할 수 있는 비효율성 등, AI를 도입하지 않음으로써 발생하는 비용을 따져봐야 합니다.

개인정보 보호 문제는 생성형 AI 구현의 주요 장벽으로 남아 있습니다. 다시 말하지만, 데이터 거버넌스와 책임감 있는 AI 원칙이 중요한 역할을 합니다. 중요한 첫 번째 단계는 AI 모델에 정보를 제공하기 전에 익명화, 차등 개인정보 보호, 암호화와 같은 데이터 관리 기술을 사용하여 민감한 데이터의 노출을 제한하는 것입니다.

이렇게 하면 개인 식별 정보(PII) 또는 독점 비즈니스 데이터가 노출될 위험이 줄어듭니다. 또한 기업은 AI 시스템이 엄격한 액세스 제어 및 감사 메커니즘을 따라 데이터와 상호 작용하는 사람과 데이터가 어떻게 사용되는지 추적하도록 해야 합니다.

데이터 자체를 이동하지 않고도 여러 분산형 데이터 세트에서 AI 모델을 학습시키는 페더레이션 학습은 개인정보를 보호하는 효과적인 접근 방식이 될 수 있습니다.

규정 준수도 또 다른 핵심 요소입니다. 기업은 GDPR, CCPA 및 산업별 규정과 같은 글로벌 데이터 개인정보 보호법에 맞게 AI를 사용해야 합니다. 정기적으로 개인정보 영향 평가를 수행하고 AI 애플리케이션이 데이터를 처리하는 방식에 대한 명확한 문서를 유지하면 규정을 준수하고 고객의 신뢰를 구축하는 데 도움이 될 수 있습니다. 

긍정적인 측면은 많은 조직이 이러한 문제를 잘 해결해 나가고 있다는 것입니다.

• 응답자의 80%는 AI 또는 생성형 AI와 관련된 위험을 전담하는 위험 부서를 별도로 운영하고 있습니다.

• 81%는 생성형 AI로 인한 잠재적 보안 위협을 식별하기 위해 정기적인 위험 평가를 수행합니다.

• 78%는 AI 모델의 작동 방식과 학습 방식에 대한 설명 가능성을 높이기 위해 강력한 문서를 유지합니다.

• 76%는 생성형 AI 거버넌스를 위한 명확한 조직 구조, 정책 및 프로세스를 구축합니다.

• 72%는 데이터를 관리하고 잠재적 위험을 해결하기 위한 정책과 절차를 개발합니다.

AI 도입에 대한 일반적인 문제를 극복하려면 AI 개발 팀뿐만 아니라 기술, 재무, 보안 및 법무부서 전반의 이해 관계자를 포함하는 총체적인 접근 방식이 필요합니다. 하지만 기술이 얼마나 빠르게 발전하고 있는지를 고려할 때, 후발 주자가 바로 지금 시작하는 것이 가장 좋습니다.