Kontextfönster
Kontextfönstret begränsar hur många token en språkmodell kan beakta i ett bearbetningssteg. Det är inget permanent kunskapsarkiv.
Skilj tillgänglig kontext från lagrad kunskap
Kontextfönstret beskriver det begränsade antal token som en språkmodell kan beakta i ett bearbetningssteg. Det kan omfatta instruktioner, tidigare meddelanden och bifogade dokumentutdrag. Applikationen avgör också vilket innehåll som faktiskt ingår.
I ett påhittat exempel ska en assistent jämföra en aktuell leveransregel med en äldre. Om bara den gamla versionen lämnas hjälper ett större kontextfönster inte ensamt. Det ökar möjlig indatamängd men hämtar inte den saknade aktuella källan.
Kontextfönstret är inte heller ett permanent minne av alla företagsdokument. Sökning eller en dokumentkoppling kan leverera relevant innehåll för en begäran. Även om en lång text ryms måste det kontrolleras att de avgörande uppgifterna används korrekt i resultatet.
Källor
Relaterade begrepp
- Token i språkmodellerToken är språkmodellers bearbetningsenheter. De motsvarar inte alltid hela ord och skiljer sig från designtokens.
- Stor språkmodellEn stor språkmodell bearbetar språk med inlärda mönster. Flytande text bevisar varken faktariktighet eller tillgång till aktuella företagsdata.
- PromptEn prompt är indata till en generativ modell. En tydlig uppgift hjälper men ersätter varken dataanslutningar eller behörigheter.
- ModellkortEtt modellkort dokumenterar syfte, grunder, utvärderingsvillkor och kända begränsningar för en viss version av en AI-modell.
- Beredskap för AIBeredskap för AI gäller ett projekts förutsättningar: mål, användbara data, kompetens, ansvar och ett fungerande arbetssätt för driften.
- KontextutformningKontextutformning förbereder information inför varje modellanrop: relevanta instruktioner, meddelanden, källor och aktuella tillstånd.
Artiklar om ämnet
AI & automatisering med ASES
AI-assistenter och automatiserade flöden