Contextvenster
Het contextvenster begrenst hoeveel tokens een taalmodel in één verwerkingsstap kan meenemen. Het is geen blijvend kennisarchief.
Beschikbare context van opgeslagen kennis onderscheiden
Het contextvenster beschrijft het beperkte aantal tokens dat een taalmodel in één verwerkingsstap kan meenemen. Daaronder kunnen instructies, eerdere berichten en aangeleverde documentfragmenten vallen. De toepassing bepaalt mede welke inhoud er werkelijk in komt.
In een fictief voorbeeld moet een assistent een actuele leveringsregel met een oudere vergelijken. Wordt alleen de oude versie aangeleverd, dan helpt een groter contextvenster op zichzelf niet. Het vergroot de mogelijke invoer, maar haalt de ontbrekende actuele bron niet op.
Het contextvenster is ook geen blijvend geheugen van alle bedrijfsdocumenten. Zoeken of een documentverbinding kan relevante inhoud voor een verzoek aanleveren. Zelfs als een lange tekst past, moet worden gecontroleerd of de beslissende informatie correct in het resultaat is gebruikt.
Bronnen
Verwante begrippen
- Token in een taalmodelTokens zijn verwerkingseenheden van taalmodellen. Ze komen niet altijd overeen met hele woorden en verschillen van designtokens.
- Groot taalmodelEen groot taalmodel verwerkt taal met geleerde patronen. Vloeiende tekst bewijst geen feitelijke juistheid of toegang tot actuele bedrijfsgegevens.
- PromptEen prompt is de invoer voor een generatief model. Een duidelijke taak helpt, maar vervangt geen gegevensverbindingen of toegangsrechten.
- ModelkaartEen modelkaart documenteert doel, grondslagen, beoordelingsvoorwaarden en bekende beperkingen van een bepaalde versie van een AI-model.
- AI-readinessAI-readiness betreft de voorwaarden voor een project: doel, bruikbare gegevens, vaardigheden, verantwoordelijkheden en dagelijks beheer.
- ContextengineeringContextengineering bereidt informatie voor elke modelaanroep voor: passende instructies, berichten, bronnen en de actuele stand van zaken.
Artikelen over dit onderwerp
AI & automatisering met ASES
AI-assistenten en geautomatiseerde processen