AI-hallucinatie
Een AI-hallucinatie is aannemelijk klinkende maar feitelijk onjuiste of verzonnen inhoud. Vloeiende taal bewijst geen juistheid.
Een onbewezen bewering als fout herkennen
Een AI-hallucinatie ontstaat als een model een onjuiste of verzonnen bewering als informatie over de werkelijkheid presenteert. Het kan bijvoorbeeld een bron of producteigenschap verzinnen. De formulering kan toch overtuigend klinken.
In een fictief voorbeeld beweert een supportassistent dat afhalen op zondag mogelijk is. De aangeleverde bedrijfsregel staat afhalen alleen van maandag tot vrijdag toe. De bewering wordt daarom aan de actuele regel getoetst in plaats van de stellige formulering als bewijs te zien.
Een uitdrukkelijk gevraagd fictief verhaal is een andere taak. Een antwoord dat volgens een verouderde regel klopt, kan ook een bronfout bevatten in plaats van een vrije verzinning. Voor correctie moet worden vastgesteld of actuele informatie ontbreekt, verkeerd is opgehaald of verkeerd is gebruikt.
Bronnen
Verwante begrippen
- Groot taalmodelEen groot taalmodel verwerkt taal met geleerde patronen. Vloeiende tekst bewijst geen feitelijke juistheid of toegang tot actuele bedrijfsgegevens.
- LLM-evaluatieLLM-evaluatie toetst modeluitvoer aan vastgelegde taken en criteria. Eén goed voorbeeld bewijst geen algemene kwaliteit.
- ModelkaartEen modelkaart documenteert doel, grondslagen, beoordelingsvoorwaarden en bekende beperkingen van een bepaalde versie van een AI-model.
- AI-readinessAI-readiness betreft de voorwaarden voor een project: doel, bruikbare gegevens, vaardigheden, verantwoordelijkheden en dagelijks beheer.
- ContextengineeringContextengineering bereidt informatie voor elke modelaanroep voor: passende instructies, berichten, bronnen en de actuele stand van zaken.
- AnomaliedetectieMethoden die ongebruikelijke waarnemingen markeren ten opzichte van een vastgestelde referentie of een geleerd patroon.
Artikelen over dit onderwerp
AI & automatisering met ASES
AI-assistenten en geautomatiseerde processen