Verwalten Sie Ihre Modelle auf mehreren Clustern mit einem benutzerdefinierten Governance-Connector

Vorbereitende Schritte

Vergewissern Sie sich, bevor Sie die folgenden Schritte für die Verwaltung und Steuerung des Lebenszyklus von Modellen ausführen, dass Sie über die erforderlichen Kenntnisse verfügen:

• Ein benutzerdefinierter Governance-Connector für Ihren primären Governance-Cluster und Remote-Cluster
• Der Dienst „ URL “ für das Software Development Kit (SDK) zum Remote-Export von Fakten

Wenden Sie sich an Ihren Instanzadministrator, um zu erfahren, welche Art von Verbindung für Ihren Remote-Cluster eingerichtet ist, und um zusätzliche Informationen wie den Dienst URL zu erhalten.

Informationen zu dieser Aufgabe

Wenn Sie keine direkte Verbindung haben, können Sie die Daten nur manuell synchronisieren.

Verwalten Sie Ihre Modelle auf Clustern mit einer benutzerdefinierten Verbindung

Folgen Sie diesen Schritten, um die Governance-Aktivitäten für Ihre Modelle zu verwalten:

1. Melden Sie sich bei Ihrem primären Governance-Cluster an.

2. Erstellen oder laden Sie Modelle auf dem primären Governance-Cluster hoch. Modelle, die nicht auf dem primären Governance-Cluster erstellt werden, werden nicht ordnungsgemäß registriert und können zu Datenverlusten führen.

3. Entwickeln und bewerten Sie die Modelle genauso wie die Modelle für eigenständige Cluster.

4. Wenn die Modelle einsatzbereit sind, verschieben Sie sie in den Remote-Cluster:

   1. Exportieren Sie die Modelle aus dem primären Governance-Cluster.
   2. Importieren Sie die Modelle in den entfernten Cluster, in dem Sie sie evaluieren und einsetzen möchten.

5. Bewerten und verteilen Sie Ihr Modell auf dem entfernten Cluster wie ein normales Modell. Die Governance-Aktivitäten werden protokolliert und mit dem primären Governance-Cluster synchronisiert.

   Tipp: Nur Aktionen zur Bewertung, Bereitstellung und Löschung eines Modells werden mit dem primären Governance-Cluster synchronisiert. Wenn Sie ein Modell auf dem entfernten Cluster erstellen oder importieren, wird das Modell erst protokolliert und synchronisiert, wenn Sie das Modell bewerten oder bereitstellen. Nachdem Sie ein Modell ausgewertet oder bereitgestellt haben, werden die Aktivitätsdaten des Modells protokolliert.

6. Verwenden Sie POST-Anfragen, um die neuesten Ereignisse für alle Modelle abzurufen und zu sichern. Für POST-Anfragen muss der Administrator der „ watsonx.governance “-Instanz das SDK (Software Development Kit) für den Remote-Faktenexport und dessen API-Endpunkt auf einem „ VM “ korrekt eingerichtet haben.

   1. Rufen Sie die neuesten Ereignisse ab. Senden Sie eine POST Anfrage an Ihren Dienst URL :

      http://<service_url>/event
      

      Eine Nutzlast mit den Ereignissen im JSON-Format wird standardmäßig unter " data/events.jsonl gespeichert. Wenn das Ereignis erfolgreich war, sehen Sie die folgende Meldung:
      ' { "message": "Event saved to data/events.jsonl" }

   2. Sichern Sie die letzten Ereignisse. Senden Sie eine POST Anfrage an Ihren Dienst URL :

      http://<service_url>/rollout
      

      Eine Nutzlast mit den Ereignissen im JSON-Format wird standardmäßig in einem " data/events.jsonl_backup_<timestamp>.jsonl gespeichert, zum Beispiel " events_backup_18-36-50_2024-11-18.jsonl. Wenn das Ereignis erfolgreich war, ist " events.jsonl leer und hat eine Dateigröße von 0. Sie sehen die folgende Meldung: { "message": "Backup and rollout completed successfully." }

7. Rufen Sie die Nutzdaten der Ereignisdaten ab und speichern Sie sie als lokale Datei, indem Sie sie ausführen:

   scp root@9.30.123.6:/root/<service folder>/<events_backup_filename>.jsonl ~/DEV/events.jsonl
   

8. Richten Sie das SDK für den primären Faktenimport ein, das Daten in den primären Governance-Cluster importiert. Laden Sie das Primary Fact Import SDK von GitHub herunter und aktualisieren Sie den Code mit Ihren Anmeldedaten.

9. Importieren Sie die Daten in den primären Governance-Cluster. Führen Sie das Python aus, das sich in den Codebeispielen befindet, die Sie im vorherigen Schritt heruntergeladen haben:

   python3 gov_sdk_script.py
   

10. Zeigen Sie die Daten an, z. B. die Entwicklungs-, Bewertungs- und Einsatzhistorie des Modells, sowie Details wie die Datengröße oder Anhänge.

    1. Öffnen Sie auf dem primären Governance-Cluster das Modellinventar, indem Sie beispielsweise auf AI-Anwendungsfälle > Lebenszyklus klicken.
    2. Klicken Sie auf das Modell, für das Sie die aufgezeichneten Aktivitäten einsehen möchten.

Die Daten, die Sie sehen, werden veraltet sein. Um weitere Daten zu erhalten, wiederholen Sie die Schritte 6 - 10.