Koppla en kunskapsassistent till tillåtna källor

En intern kunskapsassistent ska svara utifrån källor som den frågande personen får använda. En gemensam dokumentmapp och en sekretessinstruktion räcker inte.

Följande exempel är helt hypotetiskt. Dokument, roller, kund och paketnamn är påhittade. Inga modeller eller kundsystem har testats.

Bestäm källor och gränser för slutsatser

Den gemensamma katalogen D-31 beskriver paket men tilldelar dem inte till kunder. Den godkända kundposten D-32 tilldelar paketet Plus till K-17.

Båda rollerna ställer samma fråga:

Vilken tjänsteomfattning är avtalad för kund K-17?

Detta är förväntade exempelsvar:

• Serviceteam: ”De tillgängliga godkända källorna räcker inte för att fastställa den avtalade omfattningen. Kontakta avtalshanteringen.”

• Avtalshantering: ”Paketet Plus är avtalat för kund K-17. Källa: D-32.”

Första svaret avslöjar varken identifieraren eller att en skyddad källa finns. Katalogen bevisar ingen viss kundöverenskommelse. Det andra kräver en källa som personen verkligen får öppna och som stöder påståendet.

Avgränsa materialet före svaret

Applikationen måste kontrollera tillåtet innehåll innan det skickas till modellen. Delas dokument i textavsnitt ska åtkomstreglerna följa med. Sökförhandsvisningar, sparade svar och tidigare samtalsinnehåll hör också till utformningen.

Att be modellen i efterhand dölja hemliga avsnitt ersätter inte gränsen. Stor likhet med frågan bevisar inte heller läsrätt.

Härled kontroller ur exemplet

Planera minst dessa fall för den tänkta versionen:

• Den behöriga rollen får den underbyggda tilldelningen och en åtkomlig källa.

• Följdfrågor ger inte den begränsade rollen skyddat innehåll eller ledtrådar om skyddade källor.

• Efter indragen rättighet gör ett tidigare behörigt samtal eller cache inte skyddade svar tillgängliga igen.

• En dold instruktion i dokumentet blir inte assistentens arbetsinstruktion.

Dokumentera förväntningar, tillåtet källområde och resultat så att de går att följa. Rått konfidentiellt innehåll behöver inte rutinmässigt loggas. Först en jämförelse med verkliga resultat visar om utformningen fungerar. Källplanen ensam är ingen fullständig säkerhetsdemonstration.

Källor

• OWASP — RAG Security Cheat Sheet

• Microsoft — RAG prompt engineering