Velg KI-verktøy ut fra en avgrenset oppgave

Beskriv først ønsket arbeidsresultat. Det avgjør hvilke funksjoner en KI-assistent trenger. Eksisterende tilgang til et saksbehandlingssystem er ikke tilstrekkelig grunn til å gjøre alle funksjonene tilgjengelige for modellen.

Gjør en oppgave om til funksjoner

I dette tenkte eksempelet er oppgaven å lage et internt svarutkast til sak T-62. Saken tilhører kundekonto K-18 og viser til et prosjekt. Assistenten kan lese den innkomne henvendelsen, hente tilhørende prosjektstatus og lagre et utkast. Sending inngår ikke i oppgaven.

Verktøynavnene er våre egne eksempler. Matrisen beskriver planlagt omfang:

OWASP anbefaler å begrense verktøyfunksjoner og tillatelsene deres til det nødvendige. Et eget, snevert definert kall er lettere å avgrense enn et generelt verktøy som utfører vilkårlige kommandoer eller bruker vilkårlige måladresser.

Kontroller konteksten på serveren

Serveren fastsetter tillatt kundekontekst ut fra den innloggede personen og den kontrollerte saken. En kundeidentifikator modellen fritt oppgir, skal ikke utvide denne konteksten. Det må også kunne dokumenteres at prosjektet tilhører den tillatte saken.

Hvert verktøykall kontrollerer rettigheter og tillatte felt på nytt. Den synlige verktøylisten bidrar til å styre atferden; selve tilgangskontrollen ligger i tjenesten som utfører operasjonen. Et korrekt utformet argument eller en instruksjon i saksteksten gir ingen ekstra rettigheter.

Formidle resultater som tilstander

Et lagret utkast krever bekreftelse fra saksbehandlingssystemet. Generert tekst alene beviser ikke lagring. Hvis skrivingen feiler eller utfallet er ukjent, viser grensesnittet denne tilstanden. Den skal ikke vises som en melding sendt til kunden.

Hvis sending senere skal bli mulig, er det en egen utvidelse med definerte mottakere, rettigheter og eventuelle godkjenninger. En ekstra forespørsel fra modellen aktiverer den ikke underveis.

Test grensene før bruk

Kontroller det tillatte forløpet frem til lagret utkast, og dessuten en annen kundekontekst, et sendeønske i saksteksten og mislykket lagring. Forventede utfall er henholdsvis et internt utkast, avvist tilgang, ingen sending og en synlig feiltilstand.

Registrer tillatte funksjoner, forventet systemtilstand og faktisk resultat for hvert tilfelle. Da kan du se om den tekniske grensen holder seg til oppgaven også når modellen foreslår et upassende kall.

Kilder

• OWASP — LLM06:2025 Excessive Agency