Et modelskift kræver også kontrol af adfærden

En fælles modeladapter kan forenkle den tekniske forbindelse. Den oversætter eksempelvis udbyderformater til en intern værktøjsprotokol. Dermed er det fastlagt, hvordan et kald kommer frem. Applikationen skal stadig kontrollere, om den nye model fortolker en mislykket forespørgsel korrekt.

Samme værktøjskald, forskellig fortsættelse

I det helt opdigtede eksempel spørger en assistent efter et projekts status. Begge varianter må kun bruge det læseværktøj, der er beregnet til formålet. Værktøjsnavn, argument og fejlkode er vores egne eksempelværdier, ikke en navngiven udbyders grænseflade.

Tabellen viser to antagne fortsættelser efter samme afviste forespørgsel. Den gengiver ingen observationer fra faktiske modeller.

Adapteren kan oversætte begge kald ens. Alligevel hævder den anden fortsættelse en status, som værktøjet ikke har leveret. I eksemplet blev adgangen blokeret; det opdigtede svar er stadig en faglig fejl. Det må ikke tælle som bevis for, at forespørgslen lykkedes.

Applikationen bevarer sine grænser

OWASP anbefaler at begrænse værktøjsbeføjelser og håndhæve rettigheder i efterfølgende systemer. Også efter et modelskift skal hver forespørgsel kontrolleres i den rette brugerkontekst. Et syntaktisk gyldigt argument giver hverken adgang eller lov til at omgå en afvisning.

Eksemplet kræver klar håndtering af nægtet adgang, manglende data og midlertidige fejl. Disse tilfælde kan kræve forskellige næste skridt. En fejl må ikke automatisk føre til en bredere forespørgsel eller flere rettigheder.

Hvad adapteren faktisk letter

En afgrænset, dokumenteret grænseflade kan begrænse ombygningen. Er værktøjsomfang, datamodel og fejlkontrakt stabile, behøver man efter modelskiftet måske kun tilpasse den udbyderspecifikke forbindelse og tilhørende instruktioner. En fuldstændig genopbygning er da ikke nødvendigvis påkrævet.

I et forløb, som viser kontrollerede værktøjsdata direkte uden at generere en fri fortsættelse, kan det viste fejlpunkt være mindre. Andre input-, rettigheds- og resultatkontroller er stadig relevante. Det afgørende er det faktisk anvendte forløb.

Vurdér skiftet ud fra adfærden

Microsoft beskriver sammenligninger med de samme tilfælde og særskilt fokus på enkelte fejl. Medtag også værktøjsafvisninger og manglende resultater. Registrer, om en fejl fører til en korrekt begrænsning, en uautoriseret følgehandling eller en udokumenteret påstand.

En fungerende forbindelse er en nyttig del af udskifteligheden. Frigivelse afhænger også af, om den nye konfiguration overholder de planlagte grænser og beslutninger i applikationsforløbet.

Kilder

• OWASP 2025 — Excessive Agency

• Microsoft — Evaluate models, prompts, and agents