Retrieval-augmented generation
RAG forbinder informationssøgning med et genereret svar. Kildeadgang erstatter ikke et kvalitets- og rettighedsdesign.
Retrieval-Augmented Generation (RAG) forbinder hentning af relevante oplysninger med generering af et svar gennem en sprogmodel. Det fundne indhold gives som ekstra kontekst. Modellen skal ikke trænes igen for hvert nyt dokument.
Eksempel med en vidensassistent
I en hypotetisk virksomhed finder assistenten først en godkendt arbejdsinstruktion og formulerer et svar med kildehenvisning. Søgningen kan bruge nøgleord, vektorlighed eller begge dele.
RAG garanterer ikke et korrekt svar. Forkerte, forældede eller uretmæssigt hentede afsnit kan vildlede svaret. Selv en relevant kilde kan opsummeres forkert. Kildevalg, adgangsrettigheder og svarets trofasthed skal derfor kontrolleres hver for sig.
Kilder
Relaterede begreber
- EmbeddingEt embedding repræsenterer indhold som en talvektor. Model og sammenligningsmetode afgør, hvilke ligheder der bliver synlige.
- VektordatabaseEn vektordatabase gemmer og søger i vektorrepræsentationer. Et lignende resultat er ikke nødvendigvis en gyldig og tilladt svarkilde.
- GroundingGrounding knytter et AI-svar til et kontrollerbart grundlag. Et kildelink viser ikke alene, at hvert udsagn er underbygget.
- ModelkortEt modelkort dokumenterer formål, grundlag, vurderingsbetingelser og kendte begrænsninger for en bestemt version af en AI-model.
- AI-parathedAI-parathed handler om et projekts forudsætninger: mål, brugbare data, kompetencer, ansvar og et fungerende driftsforløb.
- Context engineeringContext engineering forbereder information til hvert modelkald: relevante instruktioner, beskeder, kilder og aktuelle tilstande.
Artikler om emnet
AI & automatisering med ASES
AI-assistenter og automatiserede arbejdsgange