AI-hallucination
En AI-hallucination er plausibelt indhold, som er faktuelt forkert eller opdigtet. Flydende sprog dokumenterer ikke korrekthed.
Genkend en udokumenteret påstand som fejl
En AI-hallucination opstår, når en model præsenterer en faktuelt forkert eller opdigtet påstand som information om virkeligheden. Det kan være en kilde, der ikke findes, eller en opdigtet produktegenskab. Formuleringen kan stadig virke overbevisende.
I et opdigtet eksempel hævder en supportassistent, at afhentning er mulig om søndagen. Den angivne virksomhedsregel tillader kun afhentning fra mandag til fredag. Påstanden kontrolleres derfor mod den aktuelle regel frem for at blive vurderet som rigtig ud fra den sikre formulering.
En udtrykkeligt ønsket fiktiv fortælling er en anden opgave. Et svar, der er korrekt efter en forældet regel, kan også være en kildefejl frem for en fri opfindelse. Rettelsen kræver afklaring af, om aktuelle oplysninger mangler, hentes forkert eller bruges forkert.
Kilder
Relaterede begreber
- Stor sprogmodelEn stor sprogmodel behandler sprog ved hjælp af lærte mønstre. Flydende tekst dokumenterer ikke korrekthed eller adgang til aktuelle virksomhedsdata.
- LLM-evalueringLLM-evaluering undersøger modeloutput efter definerede opgaver og kriterier. Et godt enkeltstående eksempel dokumenterer ikke generel kvalitet.
- ModelkortEt modelkort dokumenterer formål, grundlag, vurderingsbetingelser og kendte begrænsninger for en bestemt version af en AI-model.
- AI-parathedAI-parathed handler om et projekts forudsætninger: mål, brugbare data, kompetencer, ansvar og et fungerende driftsforløb.
- Context engineeringContext engineering forbereder information til hvert modelkald: relevante instruktioner, beskeder, kilder og aktuelle tilstande.
- AnomalidetektionMetoder, der markerer usædvanlige observationer i forhold til en fastlagt reference eller et indlært mønster.
Artikler om emnet
AI & automatisering med ASES
AI-assistenter og automatiserede arbejdsgange