Kontekstvindu
Kontekstvinduet begrenser hvor mange tokener en språkmodell kan ta hensyn til i ett behandlingstrinn. Det er ikke et permanent kunnskapsarkiv.
Skill tilgjengelig kontekst fra lagret kunnskap
Kontekstvinduet beskriver det begrensede antallet tokener en språkmodell kan ta hensyn til i ett behandlingstrinn. Det kan omfatte instrukser, tidligere meldinger og vedlagte dokumentutdrag. Applikasjonen bestemmer også hvilket innhold som faktisk inngår.
I et oppdiktet eksempel skal en assistent sammenligne en aktuell leveringsregel med en eldre. Hvis bare den gamle versjonen gis, hjelper et større kontekstvindu ikke alene. Det øker mulig inndatamengde, men henter ikke den manglende aktuelle kilden.
Kontekstvinduet er heller ikke et permanent minne for alle virksomhetens dokumenter. Søk eller en dokumentkobling kan levere relevant innhold til en forespørsel. Selv om en lang tekst får plass, må det kontrolleres om de avgjørende opplysningene brukes riktig i resultatet.
Kilder
Beslektede begreper
- Token i språkmodellerTokener er språkmodellers behandlingsenheter. De tilsvarer ikke alltid hele ord og skiller seg fra designtokener.
- Stor språkmodellEn stor språkmodell behandler språk med innlærte mønstre. Flytende tekst beviser verken faktariktighet eller tilgang til aktuelle virksomhetsdata.
- PromptEn prompt er inndata til en generativ modell. En tydelig oppgave hjelper, men erstatter verken datakoblinger eller tilgangsrettigheter.
- ModellkortEt modellkort dokumenterer formål, grunnlag, evalueringsbetingelser og kjente begrensninger for en bestemt versjon av en KI-modell.
- KI-modenhetKI-modenhet gjelder forutsetningene for et prosjekt: mål, brukbare data, kompetanse, ansvar og et fungerende driftsopplegg.
- Context engineeringContext engineering forbereder informasjon til hvert modellkall: relevante instruksjoner, meldinger, kilder og gjeldende tilstander.
Artikler om temaet
KI og automatisering med ASES
KI-assistenter og automatiserte prosesser