KI-Dienste mit Code bereitstellen

Sie können einen maßgeschneiderten KI-Dienst erstellen, der von Grund auf auf Ihre generative KI-Anwendung zugeschnitten ist. Wenn Sie beispielsweise ein Asset bereitstellen, das die Retrieval Augmented Generation (RAG) verwendet, können Sie die Logik für das Abrufen von Antworten aus den Grundlagendokumenten im KI-Dienst erfassen.

Methoden zur Bereitstellung von KI-Diensten mit Code

Sie können die folgenden Methoden zur Codierung und Bereitstellung Ihrer KI-Dienste verwenden:

  1. KI-Dienste manuell codieren und bereitstellen

    Sie können ein Notizbuch erstellen, das den KI-Dienst und die Verbindungen innerhalb des Projekts enthält. Der KI-Dienst erfasst die Logik Ihrer RAG-Anwendung und enthält die Generierungsfunktion, die eine einsetzbare Code-Einheit ist. Die Generierungsfunktion wird in den Bereitstellungsbereich verschoben, der zur Erstellung einer Bereitstellung verwendet wird. Die Bereitstellung wird als REST-API-Endpunkt offengelegt, auf den andere Anwendungen zugreifen können. Sie können eine Anfrage an den REST-API-Endpunkt senden, um den bereitgestellten KI-Dienst für die Inferenzierung zu verwenden. Der eingesetzte KI-Dienst verarbeitet die Anfrage und gibt eine Antwort zurück.

    Weitere Informationen finden Sie unter Manuelles Programmieren und Bereitstellen von KI-Diensten.

  2. KI-Dienste mit Vorlagen kodieren und bereitstellen

    Sie können vordefinierte Vorlagen verwenden, um Ihre KI-Dienste in watsonx.ai bereitzustellen. KI-Servicevorlagen bieten eine vorgefertigte Grundlage für KI-Anwendungen, sodass sich Entwickler auf die Kernlogik ihrer Anwendung konzentrieren können, anstatt bei null anzufangen. Durch die Bereitstellung einer vordefinierten Struktur, Konfiguration und einer Reihe von Tools vereinfachen KI-Service-Vorlagen den Prozess der Bereitstellung von KI-Diensten, reduzieren das Fehlerrisiko und verbessern die Gesamteffizienz und Konsistenz der KI-Entwicklung und -Bereitstellung.

    Weitere Informationen finden Sie unter "Programmieren und Bereitstellen von KI-Diensten mit Vorlagen ".

Auswahl der richtigen Bereitstellungsmethode

Es gibt zwei Ansätze für die Bereitstellung von KI-Diensten: manuelle Programmierung und Entwickler-Vorlagen. Jeder Ansatz hat seine Vor- und Nachteile. Die Wahl des Einsatzansatzes hängt von den spezifischen Bedürfnissen und Anforderungen des Projekts ab. Entwicklervorlagen eignen sich für einfache Bereitstellungen mit begrenztem Anpassungsbedarf, während manuelle Programmierung für komplexe Bereitstellungen mit hohem Anpassungsbedarf geeignet ist.

Die folgende Tabelle bietet eine vergleichende Zusammenfassung der drei Ansätze für die Bereitstellung von KI-Diensten mit Code:

Hauptunterschiede
Ansatz Benutzerfreundlichkeit Anpassung Skalierbarkeit Markteinführungszeit
Manuelle Codierung Schwierig Voll Hoch Langsam
Entwicklervorlagen Einfach Begrenzt Begrenzt Schnell

Weitere Informationen