watsonx.ai에서 어디서나 모든 모델에 액세스
통합 인터페이스를 통해 주요 AI 파운데이션 모델에 대한 액세스를 간소화하는 새로운 엔터프라이즈 솔루션인 watsonx.ai 모델 게이트웨이의 공개 미리 보기가 곧 제공됩니다.
Model Gateway를 사용하면 조직은 공급업체에 종속되지 않고 IBM의 Granite 모델을 OpenAI, Anthropic, NVIDIA, Cerebras 등 업계 최고의 파운데이션 모델과 통합할 수 있습니다. AI에 구애받지 않는 이러한 접근 방식을 통해 기업은 모델이 호스팅되는 위치에 관계없이 제어를 유지하고 유연성을 향상하며 비용을 최적화할 수 있습니다.
Model Gateway는 watsonx.ai의 다중 모델 전략을 완성하는 마지막 구성 요소로, 고객이 플랫폼에서 서드파티 호스팅 모델을 자유롭게 선택해 사용할 수 있도록 합니다. 사용자는 서드파티 모델을 활용해 모든 OOTB 템플릿으로 에이전트를 개발하고, 이를 AI 서비스로 빠르게 배포할 수 있습니다.
watsonx.ai 모델 게이트웨이는 다음을 지원합니다.
- 모델 선택: watsonx.ai 또는 다른 서드파티 환경에서 호스팅되는 1,000개 이상의 SOTA 모델에 액세스합니다.
- 옵트인 메커니즘: 게이트웨이를 통한 모델 액세스는 프로비저닝되어야 하므로, 모든 연결은 적절한 액세스를 유지하기 위해 옵트인되어야 합니다.
- 배포 유연성: 모델 게이트웨이는 정식 출시 후 온프레미스에서 사용할 수 있으며, 이를 통해 기업은 호스팅되지 않은 모델에 연결할 수 있습니다
AI 도입을 확장함에 따라 많은 기업이 클라우드, 온프레미스, 하이브리드 환경 전반에서 여러 파운데이션 모델을 활용하고 있습니다. 이러한 복잡성을 관리하려면 거버넌스, 비용 효율성, 운영 감독에 어려움이 있습니다. 기업에는 모델 오케스트레이션을 간소화하고, 정책을 시행하며, 비용을 최적화하고, 실시간에 가까운 가시성을 제공하는 중앙 집중식 AI 컨트롤 플레인이 필요합니다.
앞으로 몇 개월 동안 개발자는 Prompt Lab과 같은 개발자 플레이그라운드 도구를 사용해 모든 파운데이션 모델을 실험하고, AI 애플리케이션을 효율적으로 배포하며, AutoAI RAG를 사용해 RAG 솔루션을 개발하고, watsonx 제품군의 추가 제품과 통합할 수 있습니다. 향후 몇 주 내에 개발자를 위한 추가 기능도 활성화되어, 개발자가 보다 세밀한 제어를 할 수 있게 될 예정입니다.
OpenAI 호환 API를 사용하는 통일된 API 접근 방식을 통해 기업은 많은 비용이 소요되는 재구성 없이 모델 간 원활하게 전환할 수 있습니다.
사용자에게 파운데이션 모델 제공에 대한 더 많은 옵션을 제공한다는 사명의 일환으로, watsonx.ai Model Gateway는 자체 웨이퍼 스케일 칩을 사용하여 빠른 추론을 제공하는 선도적인 공급업체인 Cerebras와도 연결됩니다.
Cerebras의 월드와이드 파트너 EVP인 Alan Chhabra는 "Cerebras의 기록적인 AI 추론 기능을 IBM의 watsonx.ai Model Gateway에 도입하게 되어 기쁘게 생각합니다"라고 밝히면서, 이번 협업은 고성능 AI에 대한 증가하는 수요에 직접 대응하며, 기업이 심층 추론 및 에이전틱 AI를 위한 강력한 파운데이션 모델을 지연 문제 없이 원활하게 배포할 수 있도록 지원합니다. 가장 야심찬 AI 이니셔티브를 대규모로 운영하려는 기업에게 혁신적인 변화를 가져다주는 솔루션입니다"라고 설명합니다.
이 기능을 여러분과 공유하게 되어 기쁘게 생각하며, 피드백을 받으면서 지속적으로 개선해 나갈 수 있기를 기대합니다.
IBM의 향후 향방 및 의도와 관련된 진술은 사전 통보 없이 변경 또는 철회될 수 있으며, 목표와 목적만을 나타냅니다.