Kontekstvindue
Kontekstvinduet begrænser, hvor mange tokens en sprogmodel kan inddrage i ét behandlingstrin. Det er ikke et permanent vidensarkiv.
Skeln mellem tilgængelig kontekst og lagret viden
Kontekstvinduet beskriver det begrænsede antal tokens, en sprogmodel kan inddrage i ét behandlingstrin. Det kan omfatte instruktioner, tidligere beskeder og vedlagte dokumentuddrag. Applikationen er også med til at bestemme, hvad der faktisk indgår.
I et opdigtet eksempel skal en assistent sammenligne en aktuel leveringsregel med en ældre. Hvis kun den gamle version gives, hjælper et større kontekstvindue ikke alene. Det øger den mulige inputmængde, men henter ikke den manglende aktuelle kilde.
Kontekstvinduet er heller ikke en permanent hukommelse for alle virksomhedens dokumenter. Søgning eller en dokumentforbindelse kan levere relevant indhold til en anmodning. Selv hvis en lang tekst kan være der, skal det kontrolleres, om de afgørende oplysninger bruges korrekt i resultatet.
Kilder
Relaterede begreber
- Token i sprogmodellerTokens er sprogmodellers behandlingsenheder. De svarer ikke altid til hele ord og adskiller sig fra designtokens.
- Stor sprogmodelEn stor sprogmodel behandler sprog ved hjælp af lærte mønstre. Flydende tekst dokumenterer ikke korrekthed eller adgang til aktuelle virksomhedsdata.
- PromptEn prompt er input til en generativ model. En tydelig opgave hjælper, men erstatter hverken dataforbindelser eller adgangsrettigheder.
- ModelkortEt modelkort dokumenterer formål, grundlag, vurderingsbetingelser og kendte begrænsninger for en bestemt version af en AI-model.
- AI-parathedAI-parathed handler om et projekts forudsætninger: mål, brugbare data, kompetencer, ansvar og et fungerende driftsforløb.
- Context engineeringContext engineering forbereder information til hvert modelkald: relevante instruktioner, beskeder, kilder og aktuelle tilstande.
Artikler om emnet
AI & automatisering med ASES
AI-assistenter og automatiserede arbejdsgange