오픈 소스 AI 및 하이브리드 멀티클라우드로 비즈니스 잠재력 실현

오픈 소스 인공 지능(AI)은 최근 저비용 대규모 언어 모델(LLM)인 DeepSeek-1의 출시와 Llama, Mistral AI 같은 오픈 모델의 부상에 힘입어 현재 가장 주목받는 키워드 중 하나입니다.

이러한 획기적인 기술들이 대중의 관심을 끌고 있지만, 기업들은 다음과 같은 질문을 진지하게 고민하고 있습니다. 이러한 화제를 어떻게 하면 실질적인 비즈니스 가치로 전환할 수 있을까요?

Linux 및 Kubernetes와 같은 오픈 소스 기술은 투명성, 안정성 및 보안을 제공하며 오랫동안 중요한 시스템의 중추적인 역할을 해왔습니다. 이들의 협업적 특성은 빠른 혁신을 촉진하며, 이는 생성형 AI를 비롯한 고급 AI 모델의 진화에 필수적인 요소입니다. 그러나 실제 비즈니스 잠재력은 오픈 소스 AI와 하이브리드 멀티클라우드 환경을 결합하는 데 있습니다. 이 강력한 페어링은 기업에 다음과 같은 이점을 제공합니다.

• 원활한 통합

• 확장 가능한 유연성

• 향상된 보안

• 맞춤형 솔루션

• 협업을 통한 혁신

IBM 연구에 따르면, 조직의 62%가 2025년에 AI 투자를 늘릴 계획이며, 거의 절반이 AI 이니셔티브에 오픈 소스 툴을 활용하는 데 중점을 두고 있다고 밝혔습니다.

“우리는 멀티클라우드 환경을 위한 AI를 설계하고 있습니다.”라고 IBM의 AI, 데이터 및 자동화 부문 부사장이자 수석 파트너인 Shobhit Varshney는 말합니다. “이는 모든 클라우드를 아우를 수 있는 단일 계층의 자동화, FinOps 보안 및 거버넌스가 필요하다는 의미입니다.”

공급업체 종속을 방지하는 것은 기업에 매우 중요하며, 오픈 소스 AI는 하이브리드 멀티클라우드 모델에 자연스럽게 들어맞습니다. 이를 통해 기업은 AWS SageMaker 또는 Google Vertex AI와 같은 독점 AI 모델을 IBM의 Granite와 같은 개방형 모델과 통합할 수 있습니다. Apache 2.0으로 오픈 소스로 제공되는 IBM의 Granite 모델 시리즈는 하이브리드 멀티클라우드 환경에 통합되도록 설계되어 조직이 다양한 플랫폼에 걸쳐 AI 모델을 배포하고 관리하는 데 더 많은 자유와 제어를 제공합니다.

“모델을 자체 인프라 내에서 관리할 수 있게 해주는 모든 요소는 디자인 단계부터 하이브리드를 염두에 둔 구조와 잘 맞습니다.”라고 Varshney는 설명합니다. “특히 시스템이 처음부터 여러 클라우드 컴퓨팅 환경과 온프레미스 IT 인프라 전반에 걸쳐 원활하게 작동하도록 설계되었을 경우에는 더욱 그렇습니다.”

이 하이브리드 설계 인프라는 AI 모델이 클라우드 간에 자유롭게 이동할 수 있도록 보장하므로 기업은 필요에 따라 최적의 환경을 선택할 수 있습니다.

오픈 소스 AI 모델은 특히 조직의 인프라에서 모델을 확장하고 배포할 때 탁월한 유연성을 제공합니다. Anthropic의 Claude나 OpenAI의 ChatGPT와 같은 타사 플랫폼은 배포하기 쉽지만 제한된 사용자 정의로 비즈니스를 특정 에코시스템에 가두는 경우가 많습니다. 반면, 오픈 소스 모델은 조직에 완전한 제어 권한을 부여하여 고유한 비즈니스 요구 사항을 충족하는 맞춤형 솔루션을 만들 수 있도록 합니다.

이러한 유연성은 여러 클라우드 환경에서 운영되는 비즈니스에 필수적입니다. 예를 들어 스토리지로 AWS를 사용하는 회사는 Google 또는 OpenAI에서 모델을 배포하고자 할 수 있습니다. 그러나 독점 모델의 경우 클라우드 간 호환성에 한계가 있는 경우가 많습니다. 오픈 소스 모델은 다양한 플랫폼에서 원활하게 통합되므로 기업은 일관성이나 규정 준수를 저해하지 않고도 최고의 클라우드 공급자를 선택할 수 있습니다.

자체 호스팅 오픈 소스 AI 모델은 민감한 데이터가 조직의 보안 IT 인프라 내에 유지되도록 보장하며, 이는 엄격한 개인정보 보호 요구 사항이 있는 기업에 필수적입니다. 타사 서버를 사용하지 않음으로써 기업은 데이터에 대한 통제권을 유지하고 특히 국제 보안 문제를 처리할 때 외부 데이터 취급과 관련된 위험을 줄일 수 있습니다.

오픈 소스 모델의 또 다른 중요한 보안 이점은 모델 자체의 무결성을 제어할 수 있다는 것입니다. Anthropic의 연구에 따르면 AI 모델 내의 코드 조작이나 내장된 취약점으로 인한 잠재적인 위험이 강조되었습니다. 악의적인 행위자는 Meta 또는 Google과 같은 신뢰할 수 있는 제공업체를 통해서도 숨겨진 위협을 도입할 수 있습니다.

오픈 소스, 자체 호스팅 모델은 조직이 코드를 검사, 검증, 수정할 수 있도록 하여 이러한 위험을 완화하고 투명성과 보안을 강화합니다.

"오픈 소스를 사용하면 자신의 운명을 스스로 통제할 수 있습니다."라고 Varshney는 말합니다. "모델 뒤에 무엇이 있는지, 어떻게 훈련되었는지, 신뢰할 수 있는 환경에서 호스팅하고 있는지 알 수 있습니다."

유연성 외에도 오픈 소스 AI 모델을 미세 조정할 수 있는 기능은 판도를 바꿀 수 있습니다. 미세 조정을 통해 기업은 산업별 요구 사항에 맞게 모델을 조정할 수 있으므로 그 가치를 더욱 높일 수 있습니다. 예를 들어, 의료나 통신 같은 산업 분야에서 Llama나 Granite과 같은 오픈 소스 모델을 미세 조정하면 기업은 도메인별 지식을 추가하여 모델의 정확성과 성능을 향상시킬 수 있습니다.

미세 조정을 위해 독점 데이터를 공급업체의 서버로 보내야 하는 경우가 많은 독점 모델과 달리, 오픈 소스 모델을 통해 기업은 사용자 정의 프로세스를 완전히 제어할 수 있습니다.

Varshney는 이렇게 설명합니다. “Granite 모델처럼 작은 모델을 사용할 경우, 기업의 용어를 이해하는 어댑터를 추가할 수 있습니다.” 예를 들어, 의료 용어는 통신과 다르기 때문에 모델을 미세 조정하여 고유한 도메인을 더 잘 이해하고 서비스를 제공할 수 있습니다

사내 인프라에서 오픈 소스 모델을 미세 조정하면 특히 더 작은 모델이 독점 데이터로 미세 조정될 때 상당한 성능 이점을 얻을 수 있습니다.

"자체 데이터로 작은 모델을 미세 조정하면 조정하지 않은 큰 모델보다 더 나은 성능을 발휘할 수 있습니다."라고 Varshney는 말합니다. "더 작고 세밀하게 조정된 모델이 특정 사용 사례에 더 효율적이고 효과적이기 때문에 비용 대비 성능의 이점이 있습니다."

예를 들어, IBM Granite 모델의 초기 개념 증명 결과에 따르면 소형 Granite 모델을 엔터프라이즈 데이터와 결합하면 대규모 프론티어 모델보다 3~23배 저렴한 저렴한 비용으로 작업별 성능을 달성할 수 있으며 주요 벤치마크에서 동일한 규모의 경쟁사보다 성능이 우수하거나 필적하는것으로 나타났습니다.

이 기능은 Granite와 같이 작고 미세 조정된 모델을 사용하면 컴퓨팅 성능이 제한된 장치에서 실시간 처리가 가능하므로 클라우드 인프라가 필요하지 않은 엣지 컴퓨팅 시나리오에서 특히 유용합니다.

"원격 IoT 장치에 작은 모델을 배치하면 이전에는 할 수 없었던 사용 사례를 활용할 수 있습니다"라고 Varshney는 덧붙입니다.

이 접근 방식은 특히 원격 또는 리소스 제약이 있는 환경에서 비용 절감과 향상된 능력을 모두 제공합니다.

오픈 소스 AI의 협업적 특성은 혁신의 속도를 가속화합니다. 전 세계 개발자 커뮤니티의 기여 덕분에 이러한 모델들은 빠르게 발전하며, AI 개발의 최전선에 머무를 수 있습니다. 이러한 빠른 혁신은 AI 기반 환경에서 경쟁 우위를 유지하기 위해 노력하는 기업에게 매우 중요합니다.

IBM과 Red Hat의 파트너십을 통해 시작된 IBM의 InstructLab 프로젝트는 AI 미세 조정에 대한 액세스를 대중화하여 대규모 언어 모델 사용자 정의를 보다 저렴하고 쉽게 이용할 수 있도록 하는 것을 목표로 합니다.

Varshney는 “커뮤니티는 이러한 모델을 강화하여 더욱 견고하게 만드는 데 중요한 역할을 합니다.”라고 말합니다.

AI와 하이브리드 멀티클라우드의 융합은 AI 투자를 극대화하려는 기업을 위한 궁극적인 전략입니다. 기업은 유연한 멀티클라우드 프레임워크 내에 오픈 소스 모델을 통합함으로써 모든 플랫폼에서 확장 가능하고 적응 가능하며 최적화된 AI 솔루션을 확보하여 상당한 비즈니스 가치를 창출할 수 있습니다.

IBM 연구에 따르면 오픈 소스 AI를 사용하는 기업의 51%가 긍정적인 수익을 보고하고 있어, 이러한 접근 방식이 실질적이고 측정 가능한 영향을 미친다는 점을 잘 보여줍니다. 오픈 소스와 하이브리드 멀티클라우드의 결합을 수용하는 것은 AI 기반 미래에서 성장을 이끄는 핵심 요소입니다.

"개방성은 AI의 미래입니다."라고 Varshney는 말합니다.

하이브리드 멀티클라우드 인프라 내에서 오픈 소스 AI를 채택함으로써 기업은 새로운 트렌드에 앞서 나갈 수 있을 뿐만 아니라 AI 중심 세상에서 지속적인 가치를 제공할 수 있습니다.