AI-hallucination
En AI-hallucination är trovärdigt formulerat innehåll som är sakligt felaktigt eller påhittat. Flytande språk bevisar inte korrekthet.
Känn igen ett obelagt påstående som ett fel
En AI-hallucination uppstår när en modell presenterar ett sakligt felaktigt eller påhittat påstående som information om verkligheten. Det kan vara en källa som inte finns eller en påhittad produktegenskap. Formuleringen kan ändå verka övertygande.
I ett påhittat exempel hävdar en supportassistent att hämtning är möjlig på söndag. Den tillhandahållna verksamhetsregeln tillåter bara hämtning från måndag till fredag. Påståendet kontrolleras därför mot den aktuella regeln i stället för att bedömas som rätt utifrån den säkra formuleringen.
En uttryckligen önskad fiktiv berättelse är en annan uppgift. Ett svar som stämmer med en föråldrad regel kan också bero på ett källfel snarare än ett fritt påhitt. Rättningen kräver att man klargör om aktuella uppgifter saknas, hämtas fel eller används fel.
Källor
Relaterade begrepp
- Stor språkmodellEn stor språkmodell bearbetar språk med inlärda mönster. Flytande text bevisar varken faktariktighet eller tillgång till aktuella företagsdata.
- LLM-utvärderingLLM-utvärdering prövar modellutdata mot definierade uppgifter och kriterier. Ett bra enskilt exempel bevisar inte allmän kvalitet.
- ModellkortEtt modellkort dokumenterar syfte, grunder, utvärderingsvillkor och kända begränsningar för en viss version av en AI-modell.
- Beredskap för AIBeredskap för AI gäller ett projekts förutsättningar: mål, användbara data, kompetens, ansvar och ett fungerande arbetssätt för driften.
- KontextutformningKontextutformning förbereder information inför varje modellanrop: relevanta instruktioner, meddelanden, källor och aktuella tillstånd.
- AnomalidetektionMetoder som markerar ovanliga observationer jämfört med en fastställd referens eller ett inlärt mönster.
Artiklar om ämnet
AI & automatisering med ASES
AI-assistenter och automatiserade flöden