AMD Instinct MI300X GPU in der IBM Cloud

Das System wurde entwickelt, um Leistung für generative AI-Workloads und HPC-Anwendungen zu liefern
IBM Cloud-Infrastruktur für KI
Die AMD Instinct MI300X GPU bietet 192 GB HBM3-Speicher

Dieser leistungsstarke Grafikprozessor (GPU) ermöglicht Leistung für das Rechenzentrum in jeder Größenordnung. Diese GPUs sind besonders gut geeignet, selbst die anspruchsvollsten KI- und HPC-Workloads zu unterstützen, und bieten außergewöhnliche Rechenleistung, große Speicherdichte, Speicher mit hoher Bandbreite und Unterstützung für spezielle Datenformate.

Die Unterstützung für IBM watsonx, Red Hat OpenShift Kubernetes Service und eine automatisierte Terraform-basierte Bereitstellung sind für das erste Halbjahr 2025 geplant. Die Unterstützung für Red Hat OpenShift KI-Cluster, IBM® Cloud Kubernetes Service und einsatzfähige Architekturen in der IBM Cloud ist für das zweite Halbjahr 2025 geplant.

Vorteile
Grafiken und Diagramme auf einer klaren Hintergrundillustration
Geringere Gesamtbetriebskosten in großem Maßstab

192 GB HBM3-Speicher bieten kostengünstige generative KI-Leistung für mehr oder größere KI-Modelle in großem Maßstab, sodass weniger GPUs erforderlich sind.

Abbildung eines Cloudsymbols, das Dokumente, Prozesse und integrierte Illustrationen darstellt
Hohe KI- und HPC-Leistung

Die GPU ist für Matrix- und Tensoroperationen mit FP8-, FP16-, BF16- und INT8-Präzision optimiert, wodurch Leistung und Genauigkeit in Einklang gebracht werden.

Anwendung, die eine Vielzahl von Farben in verschiedenen Abschnitten und Funktionen anzeigt
Offene Entwicklung

Die offene Software AMD-ROCm umfasst eine Vielzahl von Programmiermodellen, Tools, Compilern, Bibliotheken und Laufzeiten. Durch die Unterstützung von APIs, die von Branchenführern bereitgestellt werden, können Entwickler den Entwicklungscode problemlos portieren.

Die MI300X-Instanz in der IBM Cloud
Die Instanz auf IBM Cloud wird mit den folgenden Spezifikationen geliefert
  • 208 vCPUs
  • 1792 GB RAM
  • 8 x 3,2 TB Instanzenspeicher
  • 8 x AMD Instinct MI300X GPU
Bereitstellung basierend auf Ihren Infrastruktur- und Softwareanforderungen

AMD Instinct MI300X-GPUs sind mit Intel Xeon Prozessoren der 4. Generation auf IBM Cloud Virtual Servers for VPC gepaart.

IBM Cloud-Infrastruktur für KI
Bereitstellung eines eigenständigen Servers in der IBM Cloud Virtual Private Cloud (VPC)

AMD Instinct MI300X-GPUs können über IBM Cloud Virtual Servers for VPC Cloud-Instanzen bereitgestellt werden. IBM Cloud VPC ist für hohe Resilienz und Sicherheit in einem softwaredefinierten Netzwerk (SDN) konzipiert, in dem Kunden isolierte Private Clouds erstellen und wesentliche Vorteile einer Public Cloud nutzen können. Die Cloud-Instanz AMD Instinct MI300X GPU, die auch Red Hat Enterprise Linux AI-Images unterstützt, ist ideal für Kunden mit hochspezialisierten Software-Stacks oder für solche, die volle Kontrolle über ihren zugrunde liegenden Server benötigen.

Konfiguration, Preis, Angebot
Ressourcen
Abstrakte Illustration eines Globus'
Demo zu IBM watsonx.ai
Schauen Sie sich watsonx.ai näher an Developer Studio. Erstellen Sie Prompts, experimentieren Sie mit Foundation-Modellen und erstellen Sie ML-Modelle.
Sehen Sie sich dieses kurze Video zu Red Hat OpenShift AI in der IBM Cloud an.
Ein blau-weißes Design mit Kreisen.
IBM Cloud VPC-Dokumente
Mehr über IBM Cloud Virtual Private Cloud erfahren. Erkunden Sie Bereitstellungshandbücher, Tutorials und mehr.
Ähnliche Produkte
Watsonx mit Untermarkenlogo
IBM watsonx
Erkunden Sie ein vollständiges Portfolio von KI-Produkten, die die Wirkung generativer KI in Kern-Workflows beschleunigen und damit die Produktivität steigern.
Illustration eines Entwicklers, der an einem Laptop arbeitet und Hybrid-Cloud-Technologien verwendet, einschließlich Red Hat OpenShift, Kubernetes und IBM Cloud.
Red Hat KI on IBM Cloud
Bringen Sie geschäftskritische KI-Anwendungen und -Initiativen mit Red Hat AI InstructLab, Red Hat OpenShift AI und Red Hat Enterprise Linux AI auf den Markt.
Ein Team aus zwei kreativen Unternehmern diskutiert eine Wachstumsstrategie und schaut dabei auf einen Laptop.
IBM Cloud Kubernetes Service
Wählen Sie eine zertifizierte, verwaltete Kubernetes-Lösung, die für die Erstellung eines Clusters an Compute-Hosts entwickelt wurde, um containerisierte Anwendungen in der IBM Cloud bereitzustellen. IBM verwaltet die Hauptinstanz und befreit Sie von Host-Betriebssystem-, Laufzeit- und Versions-Aktualisierungsprozessen.
Ein professioneller IT-Programmierer arbeitet im Rechenzentrum an einem Desktop-Computer mit drei Bildschirmen.
Einsatzfähige Architekturen in der IBM Cloud
Beschleunigen Sie Innovationen, steigern Sie die Effizienz und sorgen Sie für Sicherheit und Compliance, während Sie gleichzeitig die Kosten optimieren.
Ein nummeriertes Flussdiagramm, das mit Symbolen und Zahlen beschriftet ist.
Retrieval-Augmented Generation (RAG)-Muster in der IBM Cloud
Automatisieren Sie die RAG-Bereitstellung mit den unterstützenden Diensten IBM Cloud und watsonx und betten Sie Ihre Unternehmensdaten in generative KI-Lösungen ein.
Ein Korridor in einem Serverraum
IBM Cloud Virtual Server for VPC
Nutzen Sie hoch skalierbare, virtuelle Single-Tenant- und Multi-Tenant-Maschinen, die Sie schnell starten können, um maximale Netzwerkisolation und -kontrolle zu erzielen.
Erste Schritte

Erkunden Sie AMD MI300X GPU-Instanzen in der IBM Cloud.

 

Konfiguration und Preis Dokumentation durchsuchen