Bereitstellung optimierter Modelle über die Benutzeroberfläche

Sie können optimierte Modelle über die Benutzeroberfläche von „ watsonx “ bereitstellen. Stellen Sie die in Ihrem Projekt gespeicherten Tuning-Experiment-Assets bereit oder stellen Sie optimierte Modelle aus dem „ Tuning Studio ” bereit.

Alternativ können Sie optimierte Basis- oder benutzerdefinierte Foundation-Modelle von IBM mithilfe der API bereitstellen. Weitere Informationen finden Sie unter Bereitstellen optimierter Modelle mit Code.

Erforderliche Berechtigungen
Um optimierte Modelle bereitzustellen, müssen Sie über die Rolle „Admin“ oder „Editor“ in einem Projekt verfügen.

Vorgehensweise

Wenn Sie das Tool „ Tuning Studio “ zum Erstellen Ihres Tuning-Experiments verwenden, können Sie das resultierende abgestimmte Modell direkt bereitstellen.

Um ein optimiertes Modell, das als Optimierungsexperiment-Asset in Ihrem Projekt gespeichert ist, bereitzustellen, führen Sie die folgenden Schritte aus:

  1. Klicken Sie auf der Registerkarte „Assets“ des Projekts auf den Asset-Typ „Experimente “.

  2. Klicken Sie hier, um das Tuning-Experiment für das Modell zu öffnen, das Sie bereitstellen möchten.

  3. Suchen Sie in der Liste der abgestimmten Modelle das abgeschlossene Abstimmungsexperiment und klicken Sie dann auf „Neue Bereitstellung “.

  4. Benennen Sie das abgestimmte Modell.

    Der Name des Tuning-Experiments wird als Name des getunten Modells verwendet, wenn Sie ihn nicht ändern. Hinter dem Namen steht eine Zahl in Klammern, die die Anzahl der Bereitstellungen angibt. Die Zahl beginnt bei eins und wird jedes Mal, wenn Sie dieses Tuning-Experiment durchführen, um eins erhöht.

    Optional : Fügen Sie eine Beschreibung und Tags hinzu.

  5. Wählen Sie für den Bereitstellungscontainer eine der folgenden Optionen aus:

    Dieses Projekt

    Stellt das optimierte Modell bereit und fügt es Ihrem Projekt hinzu, wo Sie das optimierte Modell testen können. Sie können die Bereitstellung des abgestimmten Modells jederzeit in einen Bereitstellungsbereich verschieben. Wählen Sie diese Option, wenn Sie das optimierte Modell weiter testen möchten, bevor es in der Produktion eingesetzt wird.

    Bereitstellungsbereich

    Befördert das abgestimmte Modell in einen Bereitstellungsbereich und stellt das abgestimmte Modell bereit. Ein Bereitstellungsbereich ist vom Projekt getrennt, in dem Sie die Ressource erstellen. Durch diese Trennung können Sie Assets aus mehreren Projekten in einen Bereich verschieben und Assets in mehreren Bereichen bereitstellen. Wählen Sie diese Option, wenn das abgestimmte Modell für den Einsatz in der Produktion bereit ist.

    Ein Bereitstellungsbereich ist mit einem cloudbasierten Objektspeicher wie IBM Cloud Object Storage oder Amazon S3 verknüpft.

    Wichtig: Für die Verbindung zum cloudbasierten Objektspeicher müssen Sie den Endpunkt URL und Anmeldedaten angeben, die Lese- und Schreibzugriff auf Buckets im Objektspeicher haben.
    1. Wählen Sie einen Bereitstellungsbereich im Feld „Zielbereitstellungsbereich“ aus.

    Wenn Sie keinen Bereitstellungsbereich haben, erstellen Sie einen neuen Bereich. Weitere Informationen finden Sie unter Erstellen von Bereitstellungsbereichen.

    1. Fügen Sie im Feld „Name der Bereitstellung “ eine Bezeichnung für die Bereitstellung hinzu.

      Der Name kann bis zu 36 Zeichen lang sein. Die unterstützten Zeichen sind [ a-z,0-9,_].

      Tipp: Der Servicename wird im API-Endpunkt „ URL “ verwendet, der Ihre Bereitstellung identifiziert. Das Hinzufügen eines für Menschen lesbaren Namens ist hilfreich, da der angegebene Name eine lange, vom System generierte ID ersetzt, die automatisch erstellt wird. Der Servicename abstrahiert auch die Bereitstellung von den Details der Serviceinstanz. Anwendungen können auf diesen Namen verweisen, wodurch die zugrunde liegende Dienstinstanz geändert werden kann, ohne dass dies Auswirkungen auf die Benutzer hat.

  6. Wählen Sie die Option zum Anzeigen nach dem Erstellen, damit Sie Ihr abgestimmtes Modell nach Abschluss des Bereitstellungsprozesses leicht finden können, und klicken Sie auf „Bereitstellen “. Nachdem das optimierte Modell bereitgestellt wurde, wird eine Kopie des optimierten Modells als Modell-Asset in Ihrem Projekt gespeichert.

  7. Leiten Sie die Bereitstellung ab, um Ihr optimiertes Modell zu testen.

    Ab der Version „ 2.3.1 “ ist die Textgenerierungs-API veraltet und wird in Zukunft entfernt.

    Im Bereitstellungsbereich
    1. Klicken Sie auf der Registerkarte „Bereitstellungen“ Ihres Projekts auf den Namen des bereitgestellten Modell-Assets in Ihrem Projekt oder auf den Namen des Bereitstellungsbereichs, in dem Sie das optimierte Modell bereitgestellt haben.
    1. Klicken Sie auf die Registerkarte „Test “.
    1. Fügen Sie im Feld „Eingabedaten“ eine Eingabeaufforderung hinzu, die dem Muster entspricht, auf dessen Erkennung Ihr optimiertes Modell trainiert wurde, und klicken Sie dann auf „Generieren “. Sie können auf „Parameter-Einstellungen anzeigen“ klicken, um die Standardparameter anzuzeigen, die standardmäßig auf das Modell angewendet werden. Um die Eingabeaufforderungsparameter zu ändern, müssen Sie die Datei „ Prompt Lab “ aufrufen.
    Im Projekt
    1. Klicken Sie im Projekt auf „ Prompt Lab öffnen “. Wenn Sie in einem Bereitstellungsbereich arbeiten, werden Sie aufgefordert, das Projekt auszuwählen, in dem Sie mit dem Modell arbeiten möchten.
    1. Fügen Sie im Abschnitt „Ausprobieren“ eine Eingabeaufforderung zum Eing abefeld hinzu, die dem Eingabeaufforderungsmuster entspricht, auf dessen Erkennung Ihr optimiertes Modell trainiert wurde, und klicken Sie dann auf „Generieren “.

Weitere Informationen