KI-hallusinasjon
En KI-hallusinasjon er plausibelt innhold som er faktisk feil eller oppdiktet. Flytende språk dokumenterer ikke riktighet.
Gjenkjenn en udokumentert påstand som en feil
En KI-hallusinasjon oppstår når en modell presenterer en faktisk feil eller oppdiktet påstand som informasjon om virkeligheten. Det kan være en kilde som ikke finnes, eller en oppdiktet produktegenskap. Formuleringen kan likevel virke overbevisende.
I et oppdiktet eksempel hevder en supportassistent at henting er mulig på søndag. Den oppgitte virksomhetsregelen tillater bare henting fra mandag til fredag. Påstanden kontrolleres derfor mot den aktuelle regelen i stedet for å bli vurdert som riktig ut fra den sikre formuleringen.
En uttrykkelig ønsket fiktiv fortelling er en annen oppgave. Et svar som er riktig etter en foreldet regel, kan også skyldes en kildefeil fremfor fri oppdiktning. Rettingen krever avklaring av om aktuelle opplysninger mangler, hentes feil eller brukes feil.
Kilder
Beslektede begreper
- Stor språkmodellEn stor språkmodell behandler språk med innlærte mønstre. Flytende tekst beviser verken faktariktighet eller tilgang til aktuelle virksomhetsdata.
- LLM-evalueringLLM-evaluering tester modellutdata mot definerte oppgaver og kriterier. Ett godt enkelttilfelle dokumenterer ikke generell kvalitet.
- ModellkortEt modellkort dokumenterer formål, grunnlag, evalueringsbetingelser og kjente begrensninger for en bestemt versjon av en KI-modell.
- KI-modenhetKI-modenhet gjelder forutsetningene for et prosjekt: mål, brukbare data, kompetanse, ansvar og et fungerende driftsopplegg.
- Context engineeringContext engineering forbereder informasjon til hvert modellkall: relevante instruksjoner, meldinger, kilder og gjeldende tilstander.
- AnomalideteksjonMetoder som markerer uvanlige observasjoner sammenlignet med en fastsatt referanse eller et innlært mønster.
Artikler om temaet
KI og automatisering med ASES
KI-assistenter og automatiserte prosesser