IBM 하이브리드 클라우드 플랫폼은 복잡한 과제에 직면해 있습니다. IBM의 비즈니스 운영을 구성하는 약 2,000개의 기존 내부 워크로드와 함께 새로운 인공 지능(AI) 애플리케이션을 호스팅해야 하기 때문입니다.1 하이브리드 클라우드 플랫폼에서 AI 애플리케이션을 호스팅할 때는 다음과 같은 요구 사항을 고려해야 합니다.
- AI 애플리케이션은 회사의 지적 재산권(IP) 요구 사항을 준수해야 합니다.
- 생성형 AI 콘텐츠를 활용하는 애플리케이션을 제작할 때 Developer Tools는 단순해야 하고 생산성을 높여야 합니다.
- 민감한 데이터는 수집 및 사용 과정 전반에 걸쳐 안전하게 관리되어야 합니다.
- 호스팅 환경은 하드웨어 리소스, 개발 및 운영 측면에서 비용 효율적이어야 합니다.
- 일부 AI 워크로드는 온프레미스에서 호스팅되어야 하며 로컬 하드웨어에서 동일한 AI 환경에 대한 지원이 필요합니다.
처음에 IBM 최고 정보 책임자(CIO) 조직은 프로비저닝된 고비용 그래픽 처리 장치(GPU)를 사용하는 벡터 데이터베이스와 생성형 AI 모델을 호스팅했습니다. 이 옵션은 효과적이기는 했지만 최적은 아니었습니다. 피크 시간에는 개발 팀과 프로덕션 팀 간의 리소스 경쟁으로 인해 추가 GPU를 확보해야 했으며, 이는 사용량이 적은 시간 동안 유휴 상태로 유지되었습니다.
또한 이러한 복잡한 환경으로 인해 운영 팀은 AI 클러스터를 관리하는 데 더 많은 시간을 할애해야 했습니다. 여기에는 리소스 조달, 패치 적용 및 복원력 관리가 포함되었습니다.
1IBM 하이브리드 클라우드 애플리케이션 데이터는 2024년 9월 30일에 Superset IBM Application Portfolio Management(APM) ServiceNow 대시보드를 통해 얻은 것입니다.
CIO 조직 환경을 단순화해야 할 필요성이 분명해졌습니다. 따라서 AI 모델과 데이터 관리, 개발 및 프로덕션 워크로드는 IBM Cloud의 IBM watsonx as a Service로 이전되었습니다.
이제 애플리케이션 팀이 AI 모델의 개발과 훈련을 지원하는 데 필요한 툴과 리소스를 watsonx에서 지원합니다. 애플리케이션 추론을 위한 AI 모델 배포도 watsonx 통합 환경에서 처리됩니다.
CIO 조직은 IBM Cloud에서 IBM watsonx.data 및 IBM watsonx.ai와의 통합을 통해 도메인별 데이터 및 AI 서비스를 효율적으로 관리할 수 있습니다.
또한 비즈니스에 중요한 다음과 같은 일련의 이점을 제공합니다.
- 사용량 기반 가격 책정 모델은 사용된 리소스를 기반으로 합니다.
- GPU 사용량 급증은 IBM Cloud에서 제공하는 서비스형 watsonx의 탄력성을 통해 처리되며, 운영 팀은 더 이상 GPU 리소스를 관리하지 않습니다.
- 개발에 필요한 툴을 제공합니다.
- 모델을 안전하게 배포합니다.
- watsonx 환경은 Red Hat OpenShift에서 사용할 수 있으므로 온프레미스에 워크로드를 배치하는 등 유연하게 사용할 수 있습니다.
- watsonx.governance와 결합한 경우, 일부 시나리오에서 IBM은 IBM이 개발한 모델 및 watsonx.ai에서 제공하는 일부 타사 파운데이션 모델을 포함하여 적용 대상 모델에서 생성된 아웃풋에 대해 지적 재산권 면책을 제공했습니다.
AI 애플리케이션은 AI를 시스템과 프로세스에 통합하여 IBM의 운영 방식을 혁신하고 있습니다. 일상적인 비즈니스 작업을 자동화하는 AI 기반 디지털 어시스턴트인 AskIBM과 같은 애플리케이션이 출시되고 있습니다. CIO 조직은 IBM Cloud 플랫폼 오퍼링을 활용하여 특정 요구 사항에 따라 솔루션을 확장할 수 있습니다.
IBM 최고 정보 책임자(CIO) 조직은 IBM의 내부 IT 전략을 이끌며 IBM 직원, 고객 및 파트너가 매일 업무를 수행하는 데 사용하는 IT 솔루션을 제공, 보안, 현대화 및 지원하는 업무를 담당합니다. CIO 조직의 전략에는 기업 전체에서 IT 툴, 애플리케이션 및 시스템에 보다 쉽게 액세스할 수 있도록 하고, 문제 해결 속도를 높이며, IBM의 혁신 엔진 역할을 하여 비즈니스 성장을 촉진하는 적응형 IT 플랫폼을 구축하는 것이 포함됩니다.
법률
© Copyright IBM Corporation 2024. IBM, IBM 로고, Granite, IBM Cloud, IBM watsonx, watsonx.ai 및 watsonx.data는 미국 및/또는 기타 국가에서 사용되는 IBM Corp.의 상표 또는 등록 상표입니다. 이 문서는 최초 발행일을 기준으로 최신 상태로 업데이트된 문서로, 내용은 언제든지 IBM에 의해 변경될 수 있습니다. IBM이 현재 영업 중인 모든 국가에서 모든 제품이 제공되는 것은 아닙니다.
Red Hat 및 OpenShift는 미국 및 기타 국가에서 사용되는 Red Hat, Inc. 또는 그 자회사의 상표 또는 등록 상표입니다.
고객 사례는 해당 고객이 IBM 제품을 사용한 방법과 달성한 결과에 대한 예시로서 제공됩니다. 다른 운영 환경에서는 실제 성능, 비용, 절감 또는 그 외 결과가 다르게 나타날 수 있습니다.