Distribuzione di modelli di fondazione personalizzati su cluster abilitati a MIG

Prerequisiti

Per distribuire modelli di fondazione personalizzati su cluster abilitati a MIG, l'amministratore di sistema deve esaminare i requisiti hardware e configurare il supporto MIG su un cluster. Per ulteriori informazioni, vedere Requisiti per la distribuzione di modelli di fondazione personalizzati su cluster abilitati a MIG nella documentazione di IBM Software Hub.

Dopo che l'amministratore di sistema ha configurato il supporto MIG, gli ingegneri MLOps e Prompt possono distribuire modelli di fondazione personalizzati su un cluster abilitato MIG. Rivedere i requisiti prima di creare e testare l'installazione.

Attività per la distribuzione di modelli di fondazione personalizzati su cluster abilitati a MIG

Per distribuire i modelli di fondazione personalizzati sui cluster abilitati a MIG, è necessario seguire queste operazioni.

1. Esaminare i requisiti: Esaminare i requisiti hardware e software e le architetture di modello supportate per distribuire modelli di fondazione personalizzati su cluster abilitati a MIG.
2. Creare un asset del modello di fondazione personalizzato: creare un asset del repository per il modello di fondazione personalizzato in Watson Machine Learning.
3. Creare una specifica hardware personalizzata: Creare una specifica hardware personalizzata per distribuire il modello di fondazione personalizzato.
4. Distribuzione dell'asset del modello di fondazione personalizzato: distribuire l'asset del modello di fondazione personalizzato come distribuzione online o in batch.
5. Test della distribuzione di modelli di fondazione personalizzati: Testate il vostro servizio di intelligenza artificiale per l'inferenza online o il punteggio in batch.
6. Gestire la distribuzione del modello di fondazione personalizzato: Accedere e aggiornare i dettagli dell'installazione. È inoltre possibile ridimensionare o eliminare l'installazione client.