Dettagli del modello RAG AutoAI

Al termine dell'esperimento AutoAI RAG, visualizzare i dettagli di un modello per comprenderne la composizione e le prestazioni.

Se stai utilizzando una base di conoscenze preesistente, alcuni dettagli non vengono visualizzati perché non applicabili.

Dettagli del pattern

Fare clic sul nome di un modello per esaminarne i dettagli di configurazione. Per confrontare due modelli, attiva Confronta modelli e seleziona un modello da confrontare. Alcune impostazioni di configurazione sono modificabili al momento della creazione dell'esperimento. Per i dettagli, vedere Personalizzazione delle impostazioni dell'esperimento RAG.

Informazioni sul pattern

Colonna	Descrizione
Modello	Nome del modello
Passi di composizione	Fasi dell'esperimento.
Tipo di punteggio	Come viene calcolata e presentata la metrica delle prestazioni. - Media: Il punteggio medio della metrica. - CI Alto: il limite superiore dell'intervallo di confidenza (CI) per il punteggio medio, che indica il valore più alto che la metrica può raggiungere. Se non c'è variazione nei punteggi della metrica, questo valore non può essere calcolato. - CI Low: il limite inferiore dell'intervallo di confidenza (CI) per il punteggio medio, che indica il valore più basso che è probabile che la metrica raggiunga. Se non c'è variazione nei punteggi delle metriche, questo valore non può essere calcolato.
Correttezza della risposta	Correttezza della risposta generata, che comprende sia la rilevanza del contesto recuperato sia la qualità della risposta generata.
Fedeltà della risposta	Accuratezza della risposta generata al testo recuperato.
Correttezza del contesto	Pertinenza della risposta generata rispetto all'input.

Archivio vettoriale

Colonna	Descrizione
Tipo di sorgente dati del magazzino vettoriale	Sorgente di dati che si collega all'archivio vettoriale.
Metrica di distanza del magazzino vettoriale	Metrica utilizzata per misurare la rilevanza dei vettori memorizzati rispetto al vettore di ingresso.
Nome dell'indice del magazzino vettoriale	Indice utilizzato come struttura dati per la memorizzazione e il recupero di archivi vettoriali.
Operazione di memorizzazione vettoriale	Operazione di memorizzazione vettoriale per il recupero dei dati. Ad esempio, upsert per inserire o aggiornare righe nella tabella del database.
Campi dello schema del negozio vettoriale	Schema per la memorizzazione dell'indice dei documenti vettoriali.
ID schema del negozio vettoriale	Identificatore univoco dello schema dell'archivio vettoriale.
Nome dello schema del negozio di vettori	Nome dello schema utilizzato per strutturare la tabella del database
Tipo di schema del magazzino vettoriale	Determina il tipo di dati che possono essere memorizzati nello schema e le operazioni che possono essere eseguite sui dati. Il tipo di schema struct viene utilizzato per memorizzare dati strutturati.

Suddivisione in blocchi

Colonna	Descrizione
Sovrapposizione dei blocchi	Numero di pezzi che condividono parole o frasi comuni.
Dimensione del blocco	Quantità di dati recuperati dai documenti dell'indice.
Metodo Chunking	Come viene recuperato il testo rilevante per ogni chunk dell'input dopo la suddivisione dell'input in più chunk.

Integrazioni

Colonna	Descrizione
Modello di integrazione	Modello di embedding utilizzato per vettorializzare e indicizzare la raccolta di documenti.
Troncare i token in ingresso	Numero massimo di token accettati come input.
Strategia di troncamento	Strategia utilizzata per determinare come elaborare i documenti recuperati per ottimizzare le prestazioni del modello.

Richiamo

Colonna	Descrizione
Metodo di richiamo	Metodo utilizzato per recuperare i documenti indicizzati: Finestra o Semplice.
Numero di chunk	Numero di pezzi recuperati dai documenti indicizzati.
Dimensione finestra	Numero di token adiacenti considerati dal modello quando recupera il testo dai documenti indicizzati.

Generazione

Colonna	Descrizione
Testo del modello di contesto	Modello strutturato per la risposta generata.
Modello di base	Modello di fondazione utilizzato nell'esperimento. Fare clic sull'icona di anteprima per visualizzare i dettagli del modello.
Metodo di decodifica	Processo che un modello utilizza per scegliere i token nell'output generato.
Massimo di nuovi gettoni	Numero massimo di nuovi token che possono essere generati in aggiunta ai token recuperati dai documenti indicizzati.
Lunghezza massima della sequenza	Numero massimo totale di token che rappresentano l'input e l'ouput.
Nuovi gettoni minimi	Numero minimo di nuovi token che possono essere generati.
Testo del modello di prompt	Struttura con linee guida per il modello da utilizzare quando si recupera il testo da documenti indicizzati.
Rapporto tra parole e gettoni	Numero di parole in un testo diviso per il numero di token generati.

Esempio di domande e risposte

Colonna	Descrizione
Esempio di domande e risposte	Le domande e le risposte corrette sono fornite come dati di prova per misurare le prestazioni del modello. Esempio: