Finestra di contesto
La finestra di contesto limita i token che un modello linguistico può considerare in un passaggio. Non è un archivio permanente di conoscenze.
Distinguere contesto disponibile e conoscenza memorizzata
La finestra di contesto descrive il numero limitato di token che un modello linguistico può considerare in un passaggio di elaborazione. Può comprendere istruzioni, messaggi precedenti ed estratti di documenti forniti. Anche l’applicazione determina quali contenuti vi entrino effettivamente.
In un esempio fittizio, un assistente deve confrontare una regola di consegna attuale con una precedente. Se riceve solo la vecchia versione, una finestra più ampia non basta. Aumenta la capacità d’ingresso, ma non recupera la fonte aggiornata mancante.
La finestra non è nemmeno una memoria permanente di tutti i documenti aziendali. Una ricerca o un collegamento documentale può fornire contenuti pertinenti per una richiesta. Anche se un testo lungo rientra nella finestra, occorre verificare che le informazioni decisive siano usate correttamente nel risultato.
Fonti
Termini correlati
- Token nei modelli linguisticiI token sono unità di elaborazione dei modelli linguistici. Non corrispondono sempre a parole intere e sono diversi dai token di design.
- Modello linguistico di grandi dimensioniUn LLM elabora il linguaggio tramite schemi appresi. Un testo scorrevole non dimostra correttezza né accesso ai dati aziendali aggiornati.
- PromptUn prompt è l’ingresso di un modello generativo. Una descrizione chiara del compito aiuta, ma non sostituisce collegamenti ai dati o permessi.
- Model cardLa model card documenta scopo, basi, condizioni di valutazione e limiti noti di una determinata versione di un modello di IA.
- Preparazione all’IALa preparazione all’IA riguarda i presupposti di un progetto: obiettivo, dati utilizzabili, competenze, responsabilità e gestione operativa.
- Context engineeringIl context engineering prepara le informazioni per ogni chiamata al modello: istruzioni, messaggi, fonti e stati attuali pertinenti.
Articoli sul tema
IA & automazione con ASES
Assistenti IA e processi automatizzati