AI-hulpmiddelen afleiden uit een afgebakende opdracht

Beschrijf eerst het gewenste werkresultaat. Daaruit volgen de functies die een AI-assistent nodig heeft. Bestaande toegang tot een ticketsysteem is geen afdoende reden om alle functies ervan aan het model beschikbaar te stellen.

Een opdracht naar functies vertalen

In dit fictieve voorbeeld luidt de opdracht: maak een intern antwoordconcept voor ticket T-62. Het ticket hoort bij klantaccount K-18 en verwijst naar een project. De assistent mag het binnengekomen verzoek lezen, de bijbehorende projectstatus opvragen en een concept opslaan. Versturen hoort niet bij deze opdracht.

De hulpmiddelnamen zijn eigen voorbeeldnamen. Deze matrix beschrijft de geplande reikwijdte:

OWASP adviseert functies en machtigingen van hulpmiddelen tot het noodzakelijke te beperken. Een specifieke, smal afgebakende aanroep is beter te begrenzen dan een algemeen hulpmiddel dat willekeurige opdrachten uitvoert of willekeurige doeladressen gebruikt.

De context op de server controleren

De server bepaalt de toegestane klantcontext aan de hand van de aangemelde persoon en het gecontroleerde ticket. Een vrij door het model aangeleverde klantidentificatie mag die context niet uitbreiden. Ook moet aantoonbaar zijn dat het project bij de toegestane zaak hoort.

Elke aanroep controleert rechten en toegestane velden opnieuw. De zichtbare lijst met hulpmiddelen helpt het gedrag te sturen; de daadwerkelijke toegangscontrole blijft in de uitvoerende dienst. Een correct gevormd argument of een instructie in de tickettekst geeft geen extra rechten.

Resultaten als toestanden doorgeven

Een succesvol opgeslagen concept vereist bevestiging van het ticketsysteem. Gegenereerde tekst alleen bewijst geen opslag. Als het schrijven mislukt of de uitkomst onbekend blijft, toont de interface die toestand. Die mag niet als een verstuurd klantbericht worden weergegeven.

Als later ook versturen mogelijk wordt, is dat een afzonderlijke uitbreiding met vastgelegde ontvangers, rechten en waar nodig goedkeuringen. Een extra modelverzoek activeert dit niet terloops.

De grenzen vóór gebruik testen

Controleer het toegestane proces tot en met het opgeslagen concept en daarnaast een andere klantcontext, een verstuurverzoek in de tickettekst en mislukte opslag. Verwacht worden achtereenvolgens een intern concept, geweigerde toegang, geen verzending en een zichtbare fouttoestand.

Leg voor iedere casus toegestane functies, de verwachte systeemtoestand en het werkelijke resultaat vast. Zo kunt u zien of de technische begrenzing de opdracht blijft volgen wanneer het model een ongeschikte aanroep voorstelt.

Bronnen

• OWASP — LLM06:2025 Excessive Agency