Turbonomic을 사용하여 클라우드, 온프레미스 및 컨테이너에서 AI 워크로드를 최적화합니다. AI 모델 및 GPU 성능을 보장하기 위해 리소스 결정을 자동화합니다.
이점
GPU 효율성 및 성능 향상
Turbonomic은 AWS 및 Azure 인스턴스 전반에서 GPU 수, 메모리 및 대역폭과 같은 GPU 지표를 지속적으로 평가합니다. 최적의 인스턴스 유형을 자동으로 권장하고 실행하여 워크로드가 최고 성능으로 실행되도록 하면서 불필요한 과잉 프로비저닝을 방지합니다. GPU 계층 및 컴퓨팅 성능에 대한 정책 제어를 통해 AI 워크로드에 대해 비용을 예측 가능하게 유지하고 성능을 일관되게 유지합니다.
생성형 AI 워크로드는 막대한 GPU 리소스를 요구합니다. Turbonomic은 Kubernetes 및 Red Hat OpenShift 전반에서 GPU 워크로드 할당을 최적화하여 Gen AI LLM 추론 워크로드가 정의된 서비스 수준 목표(SLO)와 성능 기준을 충족하도록 하면서 GPU 사용량, 효율성 및 비용을 극대화합니다.
Turbonomic은 GPU 인지형 분석을 적용하여 GPU 가속이 필요한 VM을 동적으로 배치하고 최적화합니다. vGPU 및 패스스루 구성을 인식하여 워크로드가 사용 가능한 용량을 갖춘 호환 가능한 호스트에서만 실행되도록 보장합니다. 이를 통해 중단을 방지하고 애플리케이션 성능을 보호하며 조직이 신뢰성을 저해하지 않고 워크로드 밀도를 높일 수 있도록 합니다.
Turbonomic은 AWS 및 Azure 인스턴스 전반에서 GPU 수, 메모리 및 대역폭과 같은 GPU 지표를 지속적으로 평가합니다. 최적의 인스턴스 유형을 자동으로 권장하고 실행하여 워크로드가 최고 성능으로 실행되도록 하면서 불필요한 과잉 프로비저닝을 방지합니다. GPU 계층 및 컴퓨팅 성능에 대한 정책 제어를 통해 AI 워크로드에 대해 비용을 예측 가능하게 유지하고 성능을 일관되게 유지합니다.
생성형 AI 워크로드는 막대한 GPU 리소스를 요구합니다. Turbonomic은 Kubernetes 및 Red Hat OpenShift 전반에서 GPU 워크로드 할당을 최적화하여 Gen AI LLM 추론 워크로드가 정의된 서비스 수준 목표(SLO)와 성능 기준을 충족하도록 하면서 GPU 사용량, 효율성 및 비용을 극대화합니다.
Turbonomic은 GPU 인지형 분석을 적용하여 GPU 가속이 필요한 VM을 동적으로 배치하고 최적화합니다. vGPU 및 패스스루 구성을 인식하여 워크로드가 사용 가능한 용량을 갖춘 호환 가능한 호스트에서만 실행되도록 보장합니다. 이를 통해 중단을 방지하고 애플리케이션 성능을 보호하며 조직이 신뢰성을 저해하지 않고 워크로드 밀도를 높일 수 있도록 합니다.
유휴 GPU 가용성이 증가했습니다. IBM® BAM이 지능형 자동화를 통해 GPU 처리량을 두 배로 늘리고 하드웨어 요구 사항을 줄인 방법을 알아보세요.
리소스
Turbonomic이 Bloomberg와 FOX Business의 'Inside the Blueprint'에서 주요하게 다뤄졌습니다.
온프레미스, 클라우드 및 컨테이너 전반에서 GPU 리소스를 워크로드 수요에 자동으로 매칭하는 기능입니다. 이를 통해 비용을 통제하면서 AI 애플리케이션이 항상 성능을 유지하도록 합니다.
Turbonomic은 데이터 센터, 클라우드 및 Kubernetes 전반에서 GPU, CPU 및 메모리 수요를 지속적으로 분석합니다. 리소스를 과잉 프로비저닝하지 않으면서 AI 워크로드가 성능 목표를 충족하도록 배치, 확장 및 적정화를 자동화합니다.
Turbonomic은 GPU 워크로드를 사용 가능한 용량을 갖춘 호환 가능한 호스트에만 배치합니다. 이를 통해 성능 문제를 방지하고 기존 하드웨어에서 더 많은 가치를 확보할 수 있도록 합니다.
AWS 및 Azure에서 Turbonomic은 GPU 인스턴스를 지속적으로 적정화하여 사용한 만큼만 비용을 지불하도록 합니다. 또한 유휴 GPU 인스턴스에서 워크로드를 축소하거나 이동하여 낭비를 제거합니다.
예. Turbonomic은 GPU 및 애플리케이션 지표를 기반으로 서비스를 확장하여 Kubernetes 및 OpenShift에서 생성형 AI 추론을 최적화합니다. GPU 활용도를 향상시키면서 지연 시간 및 처리량 목표를 충족하도록 보장합니다.
Turbonomic은 VM, 노드 및 컨테이너 서비스 수준에서 GPU 리소스를 모니터링합니다. 온프레미스 VM에 대해 안전한 배치를 자동화하고 Kubernetes 추론 워크로드를 확장하여 하이브리드 및 멀티클라우드 환경 전반에서 효율성을 개선합니다.
예. Turbonomic은 퍼블릭 클라우드에서 GPU 인스턴스를 적정화하고 데이터 센터에서 GPU 워크로드를 안전하게 배치 및 통합하며 SLO를 기반으로 Kubernetes 추론 워크로드를 확장합니다. 공급을 수요에 맞춤으로써 AI 워크로드의 성능을 유지하면서 불필요한 비용 지출을 줄입니다.
IBM의 Big AI Models 팀은 지연 시간 목표를 유지하면서 유휴 GPU 가용성을 5.3배 증가시키고 처리량을 두 배로 향상시켰습니다. 이는 더 낮은 비용으로 더 빠른 혁신을 의미합니다.