Stor språkmodell
En stor språkmodell behandler språk med innlærte mønstre. Flytende tekst beviser verken faktariktighet eller tilgang til aktuelle virksomhetsdata.
Arbeid med en stor språkmodell
En stor språkmodell, forkortet LLM, bruker mønstre lært fra omfattende treningsdata til å behandle språk og generere tekst. Inndata og utdata behandles i enheter kalt tokener. Ordet «stor» dokumenterer ikke egnethet for virksomheten din.
I et oppdiktet eksempel skriver en LLM et svarutkast på et spørsmål om levering. Den oppgitte datoen må støttes av en egnet aktuell kilde. En overbevisende setning gir ikke modellen tilgang til faktisk ordrestatus.
Modellen er heller ikke hele assistenten. Applikasjonen rundt bestemmer dokumenttilgang, tillatelser og mulige handlinger. En sammenligning må derfor i tillegg til tekstkvalitet vurdere disse koblingene og atferden når opplysninger mangler.
Kilder
Beslektede begreper
- Token i språkmodellerTokener er språkmodellers behandlingsenheter. De tilsvarer ikke alltid hele ord og skiller seg fra designtokener.
- KontekstvinduKontekstvinduet begrenser hvor mange tokener en språkmodell kan ta hensyn til i ett behandlingstrinn. Det er ikke et permanent kunnskapsarkiv.
- KI-hallusinasjonEn KI-hallusinasjon er plausibelt innhold som er faktisk feil eller oppdiktet. Flytende språk dokumenterer ikke riktighet.
- ModellkortEt modellkort dokumenterer formål, grunnlag, evalueringsbetingelser og kjente begrensninger for en bestemt versjon av en KI-modell.
- KI-modenhetKI-modenhet gjelder forutsetningene for et prosjekt: mål, brukbare data, kompetanse, ansvar og et fungerende driftsopplegg.
- Context engineeringContext engineering forbereder informasjon til hvert modellkall: relevante instruksjoner, meldinger, kilder og gjeldende tilstander.
Artikler om temaet
KI og automatisering med ASES
KI-assistenter og automatiserte prosesser