Udled AI-værktøjer af en afgrænset opgave

Beskriv først det ønskede arbejdsresultat. Det afgør, hvilke funktioner en AI-assistent behøver. Eksisterende adgang til et ticketsystem er ikke tilstrækkelig grund til at stille alle dets funktioner til rådighed for modellen.

Omsæt en opgave til funktioner

I dette tænkte eksempel er opgaven at oprette et internt svarudkast til ticket T-62. Ticketen tilhører kundekonto K-18 og henviser til et projekt. Assistenten må læse den indgående henvendelse, hente den tilknyttede projektstatus og gemme et udkast. Afsendelse er ikke en del af opgaven.

Værktøjsnavnene er vores egne eksempler. Denne matrix beskriver det planlagte omfang:

OWASP anbefaler at begrænse værktøjsfunktioner og deres tilladelser til det nødvendige. Et særligt, snævert defineret kald er lettere at afgrænse end et generelt værktøj, der udfører vilkårlige kommandoer eller bruger vilkårlige destinationsadresser.

Kontrollér konteksten på serveren

Serveren fastlægger den tilladte kundekontekst ud fra den indloggede person og den kontrollerede ticket. En kundeidentifikator, modellen frit angiver, må ikke udvide denne kontekst. Det skal også kunne dokumenteres, at projektet hører til den tilladte sag.

Hvert værktøjskald kontrollerer rettigheder og tilladte felter igen. Den synlige værktøjsliste hjælper med at styre adfærden; den egentlige adgangskontrol bliver i den udførende tjeneste. Et korrekt formet argument eller en instruktion i ticketens tekst giver ingen ekstra rettigheder.

Videregiv resultater som tilstande

Et gemt udkast kræver bekræftelse fra ticketsystemet. Den genererede tekst alene beviser ikke, at noget er gemt. Hvis skrivningen mislykkes, eller udfaldet er ukendt, viser grænsefladen denne tilstand. Den må ikke vise det som en besked sendt til kunden.

Hvis afsendelse senere bliver mulig, er det en særskilt udvidelse med fastlagte modtagere, rettigheder og eventuelle godkendelser. En ekstra anmodning fra modellen aktiverer den ikke undervejs.

Test grænserne før brug

Kontrollér det tilladte forløb frem til det gemte udkast samt en anden kundekontekst, et ønske om afsendelse i ticketens tekst og mislykket lagring. De forventede udfald er henholdsvis et internt udkast, afvist adgang, ingen afsendelse og en synlig fejltilstand.

Registrér tilladte funktioner, forventet systemtilstand og faktisk resultat for hvert tilfælde. Så kan du se, om den tekniske grænse holder opgaven afgrænset, også når modellen foreslår et upassende kald.

Kilder

• OWASP — LLM06:2025 Excessive Agency