Die IBM Chief Information Officer Organization optimiert ihre KI-Modelle mit Hilfe von watsonx
Die IBM Hybrid-Cloud-Plattform steht vor einer komplexen Herausforderung: Das Hosting neuer KI-Anwendungen neben fast 2.000 bestehenden internen Workloads, die Geschäftsabläufe von IBM umfassen.1 Beim Hosten von KI-Anwendungen auf einer Hybrid-Cloud-Plattform müssen folgende Anforderungen berücksichtigt werden:
- KI-Anwendungen müssen den Anforderungen des Unternehmens mit Blick auf geistiges Eigentum (IP) entsprechen.
- Developer Tools müssen einfach sein und die Produktivität bei der Erstellung von Anwendungen, die generative KI-Inhalte nutzen, fördern.
- Sensible Daten müssen während der gesamten Aufnahme und Nutzung sicher verwaltet werden.
- Hosting-Umgebungen müssen in Bezug auf Hardwareressourcen, Entwicklung und Betrieb kostengünstig sein.
- Einige KI-Workloads müssen vor Ort gehostet werden und erfordern Unterstützung für dieselben KI-Umgebungen auf lokaler Hardware.
Ursprünglich hostete die IBM Chief Information Officer (CIO) Organization eine Vektordatenbank und generative KI-Modelle, die bereitgestellte, teure Grafikprozessoren (GPUs) verwenden. Diese Option war zwar effektiv, aber nicht optimal. In Spitzenzeiten führte der Wettbewerb um Ressourcen zwischen Entwicklungs- und Produktionsteams zur Anschaffung zusätzlicher GPUs, die außerhalb der Spitzenzeiten ungenutzt blieben.
Außerdem musste das Betriebsteam in dieser komplexen Umgebung zusätzliche Zeit für die Verwaltung von KI-Clustern aufwenden. Dies umfasste die Beschaffung von Ressourcen, Patches und die Verwaltung der Ausfallsicherheit.
1Die Daten zu IBM Hybrid Cloud-Anwendungen wurden am 30. September 2024 über das Superset IBM Application Portfolio Management (APM) ServiceNow Dashboard abgerufen.
Die Notwendigkeit, die Umgebung der CIO Organization zu vereinfachen, war offensichtlich. Daher wurden das KI-Modell und die Datenverwaltung-, Entwicklungs- und Produktions-Workloads auf IBM® Watsonx as a Service in der IBM® Cloud übertragen.
Jetzt werden die Tools und Ressourcen, die Anwendungsteams zur Entwicklung und zum Training der KI-Modelle benötigen, von watsonx unterstützt. Sogar die Bereitstellung von KI-Modellen für das Inferencing von Anwendungen wird von der integrierten watsonx-Umgebung übernommen.
Die Integration mit IBM® Watsonx.data und IBM® Watsonx.ai in der IBM Cloud ermöglicht es der CIO Organization, domänenspezifische Daten und KI-Services effizient zu verwalten.
Außerdem bietet es eine Reihe von Vorteilen, die für das Unternehmen wichtig sind:
- Die verbrauchsabhängige Preisgestaltung basiert auf den genutzten Ressourcen.
- Die Spitzen der GPU-Auslastung werden durch die Elastizität von Watsonx as a Service in der IBM Cloud bewältigt, wobei das Betriebsteam die GPU-Ressourcen nicht mehr verwaltet.
- Die Werkzeuge, die für die Entwicklung benötigt werden.
- Sichere Bereitstellung von Modellen.
- Die Watsonx-Umgebung ist auf Red Hat OpenShift verfügbar und ermöglicht Flexibilität, einschließlich der lokalen Platzierung von Workloads.
- In Kombination mit Watsonx.governance In einigen Szenarien hat IBM eine Haftungsfreistellung für geistiges Eigentum für den Output angeboten, der von den abgedeckten Modellen erzeugt wird, einschließlich der von IBM IBM entwickelten Foundation Models und einiger Foundation Models von Drittanbietern, die über Watsonx.ai erhältlich sind.
KI-Anwendungen revolutionieren die Art und Weise, wie IBM arbeitet, indem sie KI in ihre Systeme und Prozesse integrieren. Anwendungen wie AskIBM, der KI-gestützte digitale Assistent, der alltägliche Geschäftsaufgaben automatisiert, befinden sich in der Entwicklung. Durch die Nutzung der Angebote der IBM Cloud-Plattform hat die CIO Organization die Möglichkeit, Lösungen entsprechend ihren spezifischen Anforderungen zu skalieren.
Die IBM Chief Information Officer (CIO) -Organisation leitet die interne IT-Strategie von IBM und ist verantwortlich für die Bereitstellung, Sicherung, Modernisierung und Unterstützung der IT-Lösungen, die Mitarbeiter, Kunden und Partner von IBM täglich für ihre Arbeit verwenden. Die Strategie der CIO Organization umfasst die Schaffung einer anpassungsfähigen IT-Plattform, die den Zugang zu IT-Tools, Anwendungen und Systemen im gesamten Unternehmen erleichtert, die Problemlösung beschleunigt und als Innovationsmotor für IBM dient, der das Geschäftswachstum ankurbelt.
Rechtshinweise
© Copyright IBM Corporation 2024. IBM, das IBM Logo, Granite, IBM Cloud, IBM Watsonx, Watsonx.ai, und Watsonx.data sind Marken oder eingetragene Marken der IBM Corp. in den USA und/oder anderen Ländern. Das vorliegende Dokument ist ab dem Datum der Erstveröffentlichung aktuell und kann jederzeit von IBM geändert werden. Nicht alle Angebote sind in allen Ländern verfügbar, in denen IBM tätig ist.
Red Hat und OpenShift sind Marken oder eingetragene Marken von Red Hat, Inc. oder dessen Tochtergesellschaften in den Vereinigten Staaten und anderen Ländern.
Alle angeführten Beispiele illustrieren lediglich, wie einige Kunden IBM Produkte verwendet haben und welche Ergebnisse sie dabei erzielt haben. Tatsächliche Leistung, Kosten, Einsparungen oder andere Ergebnisse in anderen Betriebsumgebungen können abweichen.