Ortsunabhängiger Zugriff auf alle Modelle in watson.ai

Wir freuen uns, das kommende watsonx.ai Model Gateway in der öffentlichen Vorschau vorstellen zu können. Dabei handelt es sich um eine neue Unternehmenslösung, die den Zugriff auf führende KI-Foundation-Models über eine einheitliche Schnittstelle optimiert.

Mit Model Gateway können Unternehmen IBMs Granite-Modelle sowie branchenführende Foundation Models von OpenAI, Anthropic, NVIDIA, Cerebras und mehr ohne Anbieterbindung integrieren. Dieser KI-unabhängige Ansatz ermöglicht es Unternehmen, die Kontrolle zu behalten, die Flexibilität zu erhöhen und die Kosten zu optimieren, unabhängig davon, wo die Modelle gehostet werden.

Model Gateway ist die letzte Säule der watsonx.ai Multi-Modell-Strategie, die Kunden die ultimative Wahl bietet, indem sie von Drittanbietern gehostete Modelle auf der Plattform verwendet. Benutzer können Modelle von Drittanbietern nutzen, um Agenten auf der Grundlage beliebiger OOTB-Vorlagen zu entwickeln und sie schnell als KI-Services bereitzustellen.

Das watsonx.ai Model Gateway ermöglicht:

• Modellauswahl: Zugriff auf über 1000 SOTA-Modelle, unabhängig davon, ob sie auf watsonx.ai oder in einer anderen Umgebung eines Drittanbieters gehostet werden
• Opt-In-Mechanismen: Der Modellzugriff über das Gateway muss bereitgestellt werden, sodass alle Verbindungen optional aktiviert werden können, um den richtigen Zugriff aufrechtzuerhalten
• Bereitstellungsflexibilität: Model Gateway wird lokal verfügbar sein, sobald es allgemein verfügbar ist, so dass Unternehmen eine Verbindung zu nicht gehosteten Modellen herstellen können

Im Zuge der Skalierung der KI-Einführung von Unternehmen nutzen viele von ihnen mehrere Foundation Models in Cloud-, On-Premises- und hybriden Umgebungen. Das Management dieser Komplexität stellt Herausforderungen in Bezug auf Governance, Kosteneffizienz und operative Aufsicht dar. Unternehmen benötigen eine zentralisierte KI-Steuerungsebene, die Modellorchestrierung vereinfacht, Richtlinien durchsetzt, Kosten optimiert und Transparenz nahezu in Echtzeit bietet.

In den kommenden Monaten können Entwickler Developer Playground-Tools wie Prompt Lab nutzen, um mit jedem Foundation Model zu experimentieren und KI-Anwendungen effizient bereitzustellen, RAG-Lösungen mit AutoAI RAG zu entwickeln und Integrationen in weitere Produkte der watsonx-Familie durchzuführen. In den kommenden Wochen werden auch zusätzliche Funktionen aktiviert, um mehr Kontrolle für den Entwickler zu erzwingen.

Mit einem einheitlichen API-Ansatz unter Verwendung einer mit OpenAI kompatiblen API können Unternehmen nahtlos zwischen Modellen wechseln, ohne eine kostspielige Neukonfiguration vorzunehmen.

Als Teil unserer Mission, unseren Nutzern mehr Optionen für die Bereitstellung von Foundation Models zu bieten, verbindet sich watsonx.ai Model Gateway auch mit Cerebras, einem führenden Anbieter von schneller Inferenz mit seinen eigenen Wafer-Scale-Chips.

„Wir freuen uns, die rekordverdächtigen KI-Inferenzfähigkeiten von Cerebras auf das watsonx.ai Model Gateway von IBM zu bringen“, sagte Alan Chhabra, EVP, Worldwide Partners, bei Cerebras. „Diese Kollaboration kommt der wachsenden Nachfrage nach leistungsstarker KI nach und ermöglicht es Unternehmen, leistungsstarke Foundation Models für Deep Reasoning und agentische KI nahtlos und ohne Latenzengpässe einzusetzen. Es ist ein entscheidender Schritt für Unternehmen, die ihre ambitioniertesten KI-Initiativen in großem Maßstab umsetzen wollen.“

Wir freuen uns, diese Funktion mit Ihnen teilen zu können und freuen uns über Ihr Feedback, das uns bei der Iteration hilft.

Testen Sie watsonx.ai noch heute kostenlos

Erkunden Sie das End-to-End-Tutorial

Lesen Sie unsere Dokumentation

Aussagen über die zukünftige Ausrichtung und die Absichten von IBM können ohne Vorankündigung geändert oder widerrufen werden und stellen lediglich Ziele und Absichten dar.