Stor sprogmodel
En stor sprogmodel behandler sprog ved hjælp af lærte mønstre. Flydende tekst dokumenterer ikke korrekthed eller adgang til aktuelle virksomhedsdata.
Arbejd med en stor sprogmodel
En stor sprogmodel, forkortet LLM, bruger mønstre lært fra omfattende træningsdata til at behandle sprog og generere tekst. Input og output behandles i enheder kaldet tokens. Ordet “stor” dokumenterer ikke egnethed til din virksomhed.
I et opdigtet eksempel skriver en LLM et svarudkast til et leveringsspørgsmål. Den angivne dato skal understøttes af en relevant aktuel kilde. En overbevisende sætning giver ikke modellen adgang til den faktiske ordrestatus.
Modellen er heller ikke hele assistenten. Den omgivende applikation bestemmer dokumentadgang, rettigheder og mulige handlinger. En sammenligning skal derfor ud over tekstkvalitet vurdere disse forbindelser og adfærden ved manglende oplysninger.
Kilder
Relaterede begreber
- Token i sprogmodellerTokens er sprogmodellers behandlingsenheder. De svarer ikke altid til hele ord og adskiller sig fra designtokens.
- KontekstvindueKontekstvinduet begrænser, hvor mange tokens en sprogmodel kan inddrage i ét behandlingstrin. Det er ikke et permanent vidensarkiv.
- AI-hallucinationEn AI-hallucination er plausibelt indhold, som er faktuelt forkert eller opdigtet. Flydende sprog dokumenterer ikke korrekthed.
- ModelkortEt modelkort dokumenterer formål, grundlag, vurderingsbetingelser og kendte begrænsninger for en bestemt version af en AI-model.
- AI-parathedAI-parathed handler om et projekts forudsætninger: mål, brugbare data, kompetencer, ansvar og et fungerende driftsforløb.
- Context engineeringContext engineering forbereder information til hvert modelkald: relevante instruktioner, beskeder, kilder og aktuelle tilstande.
Artikler om emnet
AI & automatisering med ASES
AI-assistenter og automatiserede arbejdsgange