Contextengineering
Contextengineering bereidt informatie voor elke modelaanroep voor: passende instructies, berichten, bronnen en de actuele stand van zaken.
De werkcontext voor een modelaanroep voorbereiden
Contextengineering is het gericht selecteren en voorbereiden van de informatie die een taalmodel bij een aanroep krijgt. Daaronder kunnen instructies, relevante gespreksdelen, gevonden documenten en resultaten van uitgevoerde hulpmiddelen vallen. Naast de formulering telt welke informatie wordt geselecteerd, bijgewerkt of samengevat. Een beperkt contextvenster vraagt om prioriteiten. Blijvend opgeslagen informatie is niet automatisch bij elke aanroep beschikbaar voor het model; beschrijvingen van beschikbare hulpmiddelen verlenen ook geen extra uitvoeringsrechten.
In een fictieve servicezaak vraagt een klant hoe die het gerepareerde apparaat terugkrijgt. Een oudere gesprekssamenvatting vermeldt ophalen, terwijl de nieuwste bevestigde dossierstand de later afgesproken verzending vermeldt. Voor het antwoord zou de toepassing de actuele stand met herkomst moeten aanleveren en de eerdere voorkeur als achterhaald moeten markeren. Een controle zou nagaan of het model de afgesproken retourwijze juist weergeeft. Alleen meer tekst aanbieden lost de tegenspraak niet op. Uitleg over de afgesproken verzending maakt op zichzelf nog geen verzendopdracht aan.
Bronnen
Verwante begrippen
- PromptEen prompt is de invoer voor een generatief model. Een duidelijke taak helpt, maar vervangt geen gegevensverbindingen of toegangsrechten.
- PromptengineeringTaken, context en uitvoerregels voor een generatief model doelgericht ontwerpen en toetsen.
- ContextvensterHet contextvenster begrenst hoeveel tokens een taalmodel in één verwerkingsstap kan meenemen. Het is geen blijvend kennisarchief.
- Retrieval-augmented generationRAG verbindt informatie ophalen met een gegenereerd antwoord. Brontoegang vervangt geen kwaliteits- en rechtenontwerp.
- Function callingEen taalmodel vraagt een beschreven functie aan met gestructureerde parameters; de gekoppelde toepassing voert deze uit.
- ModelkaartEen modelkaart documenteert doel, grondslagen, beoordelingsvoorwaarden en bekende beperkingen van een bepaalde versie van een AI-model.
Artikelen over dit onderwerp
AI & automatisering met ASES
AI-assistenten en geautomatiseerde processen