Bereitstellung für ein angepasstes Basismodell verwalten

Nach der Bereitstellung eines angepassten Basismodells können Sie die Bereitstellung verwalten und aktualisieren.

Sie können ein bereitgestelltes Basismodell über eine Benutzerschnittstelle für Bereitstellungsbereiche oder programmgesteuertverwalten und aktualisieren.

Angepasste Basismodellbereitstellungen aus Bereitstellungsbereich verwalten

Sie können auf die Leistung Ihrer angepassten Modellbereitstellung in Ihrem Bereitstellungsbereich zugreifen, sie aktualisieren, skalieren, löschen und überwachen.

Im Bereitstellungsbereich auf Bereitstellungsdetails zugreifen

Führen Sie die folgenden Schritte aus, um Bereitstellungsdetails zu überprüfen oder zu aktualisieren:

  1. Klicken Sie auf der Registerkarte Bereitstellungen Ihres Bereitstellungsbereichs auf einen Bereitstellungsnamen.
  2. Klicken Sie auf die Registerkarte Bereitstellungsdetails , um auf Informationen zuzugreifen, die sich auf Ihre angepasste Basismodellbereitstellung beziehen.
Hinweis: Wenn Ihre Organisation einen der Anwendungsfälle zum Verfolgen und Regeln von Assets verwendet, werden Bereitstellungsinformationen für ein verfolgtes Asset in einem Factsheet im zugehörigen Anwendungsfall aufgezeichnet.

Aktualisieren der Bereitstellungsdetails aus einem Bereitstellungsbereich

Sie können die Details für Ihre angepasste Basismodellbereitstellung aktualisieren, z. B. Name, Serving-Name, Beschreibung und Hardwarespezifikationen. Weitere Informationen finden Sie unter Bereitstellung aktualisieren.

Bereitstellung in einem Bereitstellungsbereich skalieren

Sie können Ihre Bereitstellung skalieren, indem Sie die Anzahl der für Ihre Bereitstellung erstellten Kopien erhöhen. Weitere Informationen finden Sie unter Bereitstellung skalieren.

Löschen einer Bereitstellung aus einem Bereitstellungsbereich

Sie können Ihre angepasste Basismodellbereitstellung löschen, wenn Sie sie nicht mehr benötigen, um Ressourcen freizugeben. Weitere Informationen finden Sie unter Bereitstellung löschen.

Hinweis:

In Workflows, in denen Ihr benutzerdefiniertes Foundation-Modell regelmäßig verwendet wird, sollten Sie erwägen, Ihrem Modell bei jeder Bereitstellung denselben Servicenamen zuzuweisen. Auf diese Weise können Sie nach dem Löschen und erneuten Bereitstellen des Modells weiterhin denselben Endpunkt in Ihrem Code verwenden.

Bereitstellungsleistung aus einem Bereitstellungsbereich überwachen

Sie können Ihre angepasste Basismodellbereitstellung bewerten, um die Leistung zu messen und Modellvorhersagen zu verstehen, indem Sie eine Watson OpenScale -Instanz bereitstellen und Überwachungen für Fairness, Qualität, Abweichung und Erklärbarkeit konfigurieren. Weitere Informationen finden Sie unter „Bereitstellungen bewerten “.

Angepasste Basismodellbereitstellung programmgesteuert verwalten

Sie können die Leistung Ihrer angepassten Modellbereitstellung programmgesteuert aufrufen, aktualisieren, skalieren, löschen und überwachen.

Implementierung programmgesteuert aktualisieren

Wenn Sie eine Bereitstellung programmgesteuert aktualisieren oder löschen möchten, rufen Sie zuerst die Liste der bereitgestellten Modelle ab , um die richtigen Metadaten für die Bereitstellung zu finden.

Liste der bereitgestellten Modelle abrufen

Ruft die Liste der Implementierungen für die angegebene Projekt-ID ab. Um nach allen Bereitstellungen zu filtern, die auf angepasste Basismodelle verweisen, verwenden Sie den Abfrageparameter type=custom_foundation_model . Sehen Sie sich den folgenden Beispielcode an:

curl -X GET "https://<cluster_url>/ml/v4/deployments?version=2024-01-29&project_id=<your project ID>&type=custom_foundation_model" \
-H "Authorization: Bearer $TOKEN"

Felder, die Sie in einem bereitgestellten Modell aktualisieren können:

  • name
  • description
  • tags
  • serving_name
  • asset
  • hardware_spec
  • /online/parameters
  • /online/parameters/serving_name
  • /online/parameters/foundation_model (nur Modelle, die Standard-Inferenz-Laufzeitumgebungen verwenden)

Informationen zu den verfügbaren Modellparametern finden Sie unter Eigenschaften und Parameter für benutzerdefinierte Foundation-Modelle.

Hinweis:
  • Zeitreihenmodelle benötigen keine Parameter. Geben Sie keine Parameter an, wenn Sie ein benutzerdefiniertes Zeitreihenmodell aktualisieren. Wenn Sie bei der Aktualisierung eines benutzerdefinierten Zeitreihenmodells Parameter angeben, haben diese keine Auswirkung.
  • Modelle, die benutzerdefinierte Inferenz-Laufzeitumgebungen verwenden, akzeptieren keine Parameteraktualisierungen.

Zum Beispiel:

curl -X PATCH "https://<cluster_url>/ml/v4/deployments/<your deployment ID>?version=2024-01-29&project_id=<your project ID>" \
-H "Authorization: Bearer $TOKEN" \
-H "content-type: application/json" \
--data '[{
 "op": "replace",
 "path": "/name",
 "value": "<updated deployment name>"
}]'

Implementierung programmgesteuert löschen

Verwenden Sie den folgenden Code, wenn Sie die Bereitstellung Ihres angepassten Basismodells löschen möchten:

curl -vk -X DELETE "https://<cluster_url>/ml/v4/deployments/<your deployment ID>?version=2024-01-29&project_id=<your project ID>" -H "Authorization: Bearer $TOKEN"

Bereitstellungsleistung aus einem Bereitstellungsbereich überwachen

Sie können Ihre angepasste Basismodellbereitstellung bewerten, um die Leistung zu messen und Modellvorhersagen zu verstehen, indem Sie eine Watson OpenScale -Instanz bereitstellen und Überwachungen für Fairness, Qualität, Abweichung und Erklärbarkeit konfigurieren. Weitere Informationen finden Sie unter „Bereitstellungen bewerten “.

Bereitstellung programmgesteuert skalieren

Siehe Implementierung programmgesteuert skalieren.

Weitere Schritte

Ein benutzerdefiniertes Foundation-Modell ableiten