Abilitazione dei parametri personalizzati per la messa a punto del modello

Quando i parametri personalizzati per la messa a punto del modello sono abilitati, gli utenti possono passare tali parametri direttamente al trainer sottostante (fms-hf-tuning) durante la messa a punto dei modelli di base.

Prima di iniziare

  • Devi essere un amministratore del cluster.
Attenzione: l'abilitazione dei parametri personalizzati per la messa a punto del modello consente agli utenti di trasmettere parametri arbitrari al trainer senza alcuna convalida; ciò può causare il fallimento dei processi di addestramento qualora vengano forniti parametri incompatibili.

Informazioni sui parametri personalizzati

L'attivazione dei parametri personalizzati consente agli utenti esperti di configurare i parametri di addestramento al di là delle opzioni standard fornite dall'API di ottimizzazione. Se abilitata, questa opzione consente agli utenti di includere un custom.parameters oggetto nel proprio payload di addestramento che trasmette i parametri direttamente al trainer sottostante.

Caratteristiche principali:

  • I parametri personalizzati vengono integrati nella configurazione del trainer generata
  • In caso di conflitto, i parametri personalizzati hanno la precedenza su quelli standard
  • Non viene eseguita alcuna convalida sui parametri personalizzati
  • I parametri incompatibili causano il fallimento dell'addestramento in fase di esecuzione, non al momento dell'invio

Procedura

Per abilitare i parametri personalizzati per la messa a punto del modello:

  1. Imposta il wml-cr in modalità manutenzione con il seguente comando:
    oc patch wmlbase wml-cr \
    --namespace=${PROJECT_CPD_INST_OPERANDS} \
    --type=merge \
    --patch='{"spec":{"ignoreForMaintenance": true}}'
  2. Aggiornare la configurazione della formazione per abilitare i parametri personalizzati:
    oc patch cm wmltrainingconfigmap \
    --namespace=${PROJECT_CPD_INST_OPERANDS} \
    --type=merge \
    --patch='{"data":{"service.fine_tuning.allow_custom_parameters": "true"}}'

    Per disattivare la funzione, imposta il valore su false.

  3. Prendi nota dei nomi dei gruppi di formazione dopo aver eseguito il seguente comando:
    oc get pods | grep wmltraining
    Riavvia i pod di addestramento utilizzando i nomi dei pod:
    oc delete pod <training-pod-name>
  4. Prendi nota dei nomi dei Watson Studio pod dopo aver eseguito il seguente comando:
    oc get pods | grep portal-ml-dl
    Riavvia i Watson Studio pod utilizzando i nomi dei pod:
    oc delete pod <studio-pod-name>
  5. Disattiva la modalità wml-cr di manutenzione:
    oc patch wmlbase wml-cr \
    --namespace=${PROJECT_CPD_INST_OPERANDS} \
    --type=merge \
    --patch='{"spec":{"ignoreForMaintenance": false}}'

Comportamento quando è attivato o disattivato

Quando è attivata
I valori in custom.parameters vengono integrati nella configurazione del trainer generata. Se una chiave è in conflitto con un parametro standard, ha la precedenza il valore personalizzato. L'API restituisce un messaggio di avviso: "L'utilizzo dei parametri di addestramento personalizzati è a proprio rischio e pericolo. I parametri personalizzati hanno la precedenza sui parametri di addestramento standard in caso di conflitto e potrebbero risultare incompatibili, causando potenzialmente il fallimento dell'addestramento
Quando è disattivata (impostazione predefinita)
L'oggetto custom viene salvato e restituito nelle risposte dell'API, ma non custom.parameters ha alcun effetto sull'addestramento. L'API restituisce un messaggio di avviso: "I parametri di addestramento personalizzati non sono supportati e verranno ignorati."

Considerazioni importanti

Importante: abilita questa funzione solo se i tuoi utenti necessitano di opzioni avanzate di configurazione della formazione e ne comprendono i rischi. I parametri personalizzati vengono trasmessi direttamente al trainer sottostante senza alcuna convalida e possono causare il fallimento dell'addestramento se vengono forniti valori incompatibili.