Välj AI-verktyg utifrån en avgränsad uppgift

Beskriv först det önskade arbetsresultatet. Det avgör vilka funktioner en AI-assistent behöver. Befintlig åtkomst till ett ärendesystem räcker inte som skäl att göra alla dess funktioner tillgängliga för modellen.

Översätt en uppgift till funktioner

I detta fiktiva exempel är uppgiften att skapa ett internt svarsutkast för ärende T-62. Ärendet hör till kundkonto K-18 och hänvisar till ett projekt. Assistenten får läsa den inkomna frågan, hämta tillhörande projektstatus och spara ett utkast. Att skicka ingår inte i uppgiften.

Verktygsnamnen är våra egna exempel. Matrisen beskriver den planerade omfattningen:

OWASP rekommenderar att verktygsfunktioner och deras behörigheter begränsas till det nödvändiga. Ett särskilt, snävt definierat anrop är lättare att avgränsa än ett allmänt verktyg som kör godtyckliga kommandon eller använder godtyckliga måladresser.

Kontrollera kontexten på servern

Servern fastställer den tillåtna kundkontexten utifrån den inloggade personen och det kontrollerade ärendet. En kundidentifierare som modellen fritt anger får inte utöka denna kontext. Det måste även gå att visa att projektet hör till det tillåtna ärendet.

Varje verktygsanrop kontrollerar rättigheter och tillåtna fält på nytt. Den synliga verktygslistan hjälper till att styra beteendet; den faktiska åtkomstkontrollen ligger kvar i den tjänst som utför åtgärden. Ett korrekt utformat argument eller en instruktion i ärendetexten ger inga ytterligare rättigheter.

Förmedla resultat som tillstånd

Ett sparat utkast kräver bekräftelse från ärendesystemet. Enbart den genererade texten bevisar inte att något sparats. Om skrivningen misslyckas eller utfallet är okänt visar gränssnittet detta tillstånd. Det får inte visas som ett meddelande som skickats till kunden.

Om det senare ska gå att skicka är det en separat utökning med fastställda mottagare, rättigheter och vid behov godkännanden. En extra begäran från modellen aktiverar den inte i förbifarten.

Testa gränserna före användning

Kontrollera det tillåtna flödet fram till det sparade utkastet samt en annan kundkontext, en begäran om att skicka i ärendetexten och ett misslyckat sparande. Förväntade utfall är i tur och ordning ett internt utkast, nekad åtkomst, inget utskick och ett synligt feltillstånd.

Dokumentera tillåtna funktioner, förväntat systemtillstånd och faktiskt resultat för varje fall. Då går det att se om den tekniska gränsen håller sig till uppgiften även när modellen föreslår ett olämpligt anrop.

Källor

• OWASP — LLM06:2025 Excessive Agency