Allucinazione dell’IA
Un’allucinazione dell’IA è un contenuto plausibile ma falso o inventato. La scorrevolezza del linguaggio non ne dimostra la correttezza.
Riconoscere un’affermazione senza riscontro come errore
Un’allucinazione dell’IA si verifica quando un modello presenta un’affermazione falsa o inventata come informazione sul mondo reale. Può inventare una fonte o una caratteristica di prodotto. La formulazione può comunque risultare convincente.
In un esempio fittizio, un assistente afferma che il ritiro sia possibile la domenica. La regola fornita consente il ritiro soltanto dal lunedì al venerdì. L’affermazione viene quindi verificata sulla regola attuale, senza dedurne la correttezza dal tono sicuro.
Una storia fittizia richiesta esplicitamente è un compito diverso. Una risposta corretta secondo una regola obsoleta può anche dipendere da un errore di fonte, anziché da un’invenzione libera. Per correggere occorre chiarire se manchi l’informazione attuale, se sia stata recuperata male o usata male.
Fonti
Termini correlati
- Modello linguistico di grandi dimensioniUn LLM elabora il linguaggio tramite schemi appresi. Un testo scorrevole non dimostra correttezza né accesso ai dati aziendali aggiornati.
- Valutazione degli LLMLa valutazione degli LLM verifica risultati rispetto a compiti e criteri definiti. Un buon caso isolato non dimostra la qualità generale.
- Model cardLa model card documenta scopo, basi, condizioni di valutazione e limiti noti di una determinata versione di un modello di IA.
- Preparazione all’IALa preparazione all’IA riguarda i presupposti di un progetto: obiettivo, dati utilizzabili, competenze, responsabilità e gestione operativa.
- Context engineeringIl context engineering prepara le informazioni per ogni chiamata al modello: istruzioni, messaggi, fonti e stati attuali pertinenti.
- Rilevamento delle anomalieMetodi che segnalano osservazioni insolite rispetto a un riferimento definito o a uno schema appreso.
Articoli sul tema
IA & automazione con ASES
Assistenti IA e processi automatizzati