Effiziente Skalierung mit On-Demand-Zugriff auf NVIDIA GPUs in der IBM Cloud
IBM® Cloud bietet eine breite Palette an NVIDIA-GPUs wie B300 und L40S, die optimal auf Ihre spezifischen Anforderungen und KI-Workloads wie Training, Inferenz oder Feinabstimmung abgestimmt sind. Die GPUs unterstützen eine Vielzahl von generativen KI-Inferenzanwendungen, -fähigkeiten und -frameworks, einschließlich großer Sprachmodelle (LLM) und multimodaler Modelle (MMM). Integrieren Sie Ihre KI-Workloads schnell in das Produkt, basierend auf Ihren Workload-Platzierungszielen, mit plattformübergreifender Unterstützung, einschließlich IBM Cloud Virtual Servers for VPC, IBM watsonx, Red Hat RHEL AI oder OpenShift AI und Deployable Architectures.
Bereitstellung basierend auf Ihren Anforderungen
NVIDIA-GPUs sind mit Intel Xeon Prozessoren der 4. Generation auf IBM Cloud Virtual Servers for VPC gepaart. Es gibt mehrere Möglichkeiten zur Einführung und Bereitstellung basierend auf Ihren Infrastruktur- und Softwareanforderungen.
NVIDIA-GPUs können über IBM Cloud Virtual Server for VPC für VPC-Cloud bereitgestellt werden. IBM Cloud VPC ist für hohe Resilienz und Sicherheit in einem softwaredefinierten Netzwerk (SDN) konzipiert, in dem Kunden isolierte Private Clouds erstellen können, ohne auf die wesentlichen Vorteile einer Public Cloud verzichten zu müssen. NVIDIA GPU Cloud-Instanzen, die auch Red Hat Enterprise Linux AI (RHEL AI)-Images unterstützen, sind ideal für Kunden mit hochspezialisierten Software-Stacks oder für solche, die die volle Kontrolle über ihren zugrunde liegenden Server benötigen.
Kunden, die die volle Kontrolle über ihren gesamten AI-Stack benötigen, von der Infrastruktur bis zum Workload, können IBM watsonx.ai auf ihrem NVIDIA GPU-basierten Virtual Server in IBM Cloud VPC bereitstellen. IBM® watsonx.ai ist ein integriertes End-to-End KI-Entwicklungsstudio, das ein KI-Entwickler-Toolkit und ein vollständiges KI-Lebenszyklusmanagement für die Entwicklung von KI-Services und deren Bereitstellung in den Anwendungen Ihrer Wahl bietet.
Kunden, die Freiheit bei der Auswahl von KI-Frameworks wünschen und gleichzeitig eine schnelle und sichere Bereitstellung ihrer KI-Workloads gewährleisten möchten, können unsere einsatzfähigen Architekturen mit NVIDIA-GPUs in der IBM Cloud nutzen.
Red Hat OpenShift AI ist eine flexible, skalierbare künstliche Intelligenz (KI) und Plattform für maschinelles Lernen (ML), die es Unternehmen ermöglicht, KI-fähige Anwendungen in großem Maßstab in Hybrid Cloud-Umgebungen zu erstellen und bereitzustellen. OpenShift AI wurde mithilfe von Open-Source-Technologien entwickelt und bietet vertrauenswürdige, betrieblich konsistente Funktionen, mit denen Teams experimentieren, Modelle entwickeln und innovative Apps bereitstellen können.
Clustern Sie Ihre NVIDIA-GPU-Instances über ein 3,2-Tbit/s-Netzwerk mit RoCE v2-Unterstützung
| GPU | VCPU | RAM | Konfigurieren | ||
|---|---|---|---|---|---|
| NVIDIA B300 GPU – Für große traditionelle KI- und generative KI-Modelle | 8 X NVIDIA B300 288 GB | 232 | 3840 GiB | Öffnen Sie hier einen Fall, wenn Sie Interesse haben | |
| NVIDIA H200 GPU – Für große traditionelle KI- und generative KI-Modelle | 8 X NVIDIA H200 141 GB | 160 | 1792 GiB | Virtual Server for VPC Red Hat OpenShift | |
| NVIDIA H100 GPU – Für große traditionelle KI- und generative KI-Modelle | 8 X NVIDIA H100 80 GB | 160 | 1792 GiB | Virtual Server for VPC Red Hat OpenShift | |
| NVIDIA A100-PCIe GPU – für traditionelle KI- und generative KI-Modelle | 1 x NVIDIA A100 80 GB 2 x NVIDIA A100 80 GB | 24 48 | 120 GB 240 GB | Virtual Server for VPC Red Hat OpenShift | |
| NVIDIA L40S GPU – Für kleine bis mittelgroße Modelle | 1 X NVIDIA L40S 48 GB 2 X NVIDIA L40S 48 GB | 24 48 | 120 GB 240 GB | Virtual Server for VPC Red Hat OpenShift | |
| NVIDIA L4 GPU – Für kleine KI-Modelle, die weniger Speicher benötigen | 1 X NVIDIA L4 24 GB 2 X NVIDIA L4 24 GB 4 X NVIDIA L4 24 GB | 16 32 64 | 80 GB 160 GB 320 GB | Virtual Server for VPC Red Hat OpenShift | |
| NVIDIA V100 GPU – Für den Einstieg mit geringem KI-Speicherbedarf | 1 X NVIDIA V100 16 GB | 8 | 64 GiB | Virtual Server for VPC Red Hat OpenShift |
Erkunden Sie ein vollständiges Portfolio von KI-Produkten, die die Wirkung generativer KI in Kern-Workflows beschleunigen und damit die Produktivität steigern.
Bringen Sie geschäftskritische KI-Anwendungen und -Initiativen mit Red Hat AI InstructLab, Red Hat OpenShift AI und Red Hat Enterprise Linux AI auf den Markt.
Wählen Sie eine zertifizierte, verwaltete Kubernetes-Lösung, die für die Erstellung eines Clusters an Compute-Hosts entwickelt wurde, um containerisierte Anwendungen in der IBM Cloud bereitzustellen. IBM verwaltet den Master und befreit Sie von Host-Betriebssystem-, Laufzeit- und Versions-Aktualisierungsprozessen.
Einsatzfähige Architekturen in der IBM Cloud, die Ihnen helfen, Innovationen zu beschleunigen, die Effizienz zu steigern, Sicherheit und Compliance zu gewährleisten und gleichzeitig die Kosten zu optimieren
Automatisieren Sie die RAG-Bereitstellung mit den unterstützenden Diensten IBM Cloud und watsonx und betten Sie Ihre Unternehmensdaten in generative KI-Lösungen ein.
Nutzen Sie hoch skalierbare, virtuelle Single-Tenant- und Multi-Tenant-Maschinen, die Sie schnell starten können, um maximale Netzwerkisolation und -kontrolle zu erzielen.