Context engineering
Il context engineering prepara le informazioni per ogni chiamata al modello: istruzioni, messaggi, fonti e stati attuali pertinenti.
Preparare il contesto di lavoro di una chiamata al modello
Il context engineering consiste nel selezionare e preparare in modo mirato le informazioni che un modello linguistico riceve per una chiamata. Possono comprendere istruzioni, parti pertinenti della conversazione, documenti trovati e risultati di strumenti già eseguiti. Oltre alla formulazione, contano le informazioni selezionate, aggiornate o riassunte. Una finestra di contesto limitata richiede priorità. Le informazioni conservate in modo persistente non sono automaticamente disponibili al modello a ogni chiamata; le descrizioni degli strumenti disponibili non conferiscono ulteriori autorizzazioni di esecuzione.
In un caso di assistenza fittizio, un cliente chiede come riavrà l’apparecchio riparato. Un vecchio riepilogo della conversazione indica il ritiro, mentre l’ultimo stato confermato della pratica riporta la spedizione concordata in seguito. Per rispondere, l’applicazione dovrebbe fornire lo stato attuale con la sua provenienza e indicare che la preferenza precedente è stata superata. Si verificherebbe se il modello riporta correttamente la modalità di restituzione concordata. Aggiungere testo non risolve da solo la contraddizione. Spiegare la spedizione concordata non crea di per sé un ordine di spedizione.
Fonti
Termini correlati
- PromptUn prompt è l’ingresso di un modello generativo. Una descrizione chiara del compito aiuta, ma non sostituisce collegamenti ai dati o permessi.
- Prompt engineeringProgettare e verificare compiti, contesto e regole di output per un modello generativo.
- Finestra di contestoLa finestra di contesto limita i token che un modello linguistico può considerare in un passaggio. Non è un archivio permanente di conoscenze.
- Retrieval-Augmented GenerationRAG combina recupero di informazioni e risposte generate. L’accesso alle fonti non sostituisce la progettazione di qualità e permessi.
- Function callingUn modello linguistico richiede una funzione descritta con parametri strutturati; l’applicazione collegata la esegue.
- Model cardLa model card documenta scopo, basi, condizioni di valutazione e limiti noti di una determinata versione di un modello di IA.
Articoli sul tema
IA & automazione con ASES
Assistenti IA e processi automatizzati