Context engineering
Context engineering forbereder informasjon til hvert modellkall: relevante instruksjoner, meldinger, kilder og gjeldende tilstander.
Å forberede arbeidskonteksten til et modellkall
Context engineering er målrettet utvelgelse og forberedelse av informasjonen en språkmodell får ved et kall. Det kan omfatte instruksjoner, relevante samtaledeler, dokumenter som er funnet, og resultater fra verktøy som allerede er kjørt. Ved siden av formuleringen teller det hvilken informasjon som velges, oppdateres eller oppsummeres. Et begrenset kontekstvindu krever prioritering. Varig lagret informasjon er ikke automatisk tilgjengelig for modellen ved hvert kall; beskrivelser av tilgjengelige verktøy gir heller ikke flere rettigheter til å utføre handlinger.
I en fiktiv servicesak spør en kunde hvordan den reparerte enheten skal leveres tilbake. Et eldre samtalesammendrag sier henting, mens den siste bekreftede saksstatusen viser forsendelse som ble avtalt senere. Til svaret bør applikasjonen gi gjeldende status med kilde og markere det tidligere ønsket som erstattet. En gjennomgang bør kontrollere om modellen gjengir den avtalte returformen riktig. Mer tekst alene løser ikke motsetningen. Informasjon om den avtalte forsendelsen oppretter ikke i seg selv en forsendelsesordre.
Kilder
Beslektede begreper
- PromptEn prompt er inndata til en generativ modell. En tydelig oppgave hjelper, men erstatter verken datakoblinger eller tilgangsrettigheter.
- PromptdesignÅ utforme og teste oppgaver, kontekst og utdataregler for en generativ modell.
- KontekstvinduKontekstvinduet begrenser hvor mange tokener en språkmodell kan ta hensyn til i ett behandlingstrinn. Det er ikke et permanent kunnskapsarkiv.
- Retrieval-Augmented GenerationRAG knytter informasjonsinnhenting til genererte svar. Kildetilgang erstatter ikke utforming av kvalitet og rettigheter.
- FunksjonskallEn språkmodell ber om en beskrevet funksjon med strukturerte parametere; den tilknyttede applikasjonen utfører den.
- ModellkortEt modellkort dokumenterer formål, grunnlag, evalueringsbetingelser og kjente begrensninger for en bestemt versjon av en KI-modell.
Artikler om temaet
KI og automatisering med ASES
KI-assistenter og automatiserte prosesser