Retrieval-Augmented Generation
RAG knytter informasjonsinnhenting til genererte svar. Kildetilgang erstatter ikke utforming av kvalitet og rettigheter.
Retrieval-Augmented Generation (RAG) knytter henting av relevant informasjon til svargenerering med en språkmodell. Innholdet som finnes, gis som ekstra kontekst. Modellen trenger ikke trenes på nytt for hvert nytt dokument.
Eksempel med en kunnskapsassistent
I en hypotetisk virksomhet finner assistenten først en godkjent arbeidsinstruks og formulerer et svar med kildehenvisning. Søket kan bruke nøkkelord, vektorlikhet eller begge deler.
RAG garanterer ikke et riktig svar. Feilaktige, utdaterte eller urettmessig hentede avsnitt kan villede svaret. Også en egnet kilde kan oppsummeres feil. Kildevalg, tilgangsrettigheter og svarets kildetrofasthet må derfor kontrolleres separat.
Kilder
Beslektede begreper
- EmbeddingEn embedding representerer innhold som en tallvektor. Modell og sammenligningsmetode avgjør hvilke likheter som blir synlige.
- VektordatabaseEn vektordatabase lagrer og søker i vektorrepresentasjoner. Et lignende treff er ikke automatisk en gyldig og tillatt svarkilde.
- GroundingGrounding knytter et KI-svar til etterprøvbart grunnlag. En kildelenke viser ikke alene at hvert utsagn er underbygd.
- ModellkortEt modellkort dokumenterer formål, grunnlag, evalueringsbetingelser og kjente begrensninger for en bestemt versjon av en KI-modell.
- KI-modenhetKI-modenhet gjelder forutsetningene for et prosjekt: mål, brukbare data, kompetanse, ansvar og et fungerende driftsopplegg.
- Context engineeringContext engineering forbereder informasjon til hvert modellkall: relevante instruksjoner, meldinger, kilder og gjeldende tilstander.
Artikler om temaet
KI og automatisering med ASES
KI-assistenter og automatiserte prosesser