Bilgi asistanını izinli kaynaklara bağlamak

Şirket içi bilgi asistanı, soruyu istekte bulunan kişinin erişimine açık kaynaklarla yanıtlamalıdır. Ortak belge klasörü ve gizliliği koruma talimatı bunun için yeterli değildir.

Aşağıdaki örnek tamamen varsayımsaldır. Belgeler, roller, müşteri ve paket adları kurgusaldır. Model veya müşteri sistemi test edilmedi.

Kaynakları ve çıkarım sınırını belirleyin

Ortak katalog D-31 paketleri açıklar ama müşterileri paketlere atamaz. Onaylı müşteri kaydı D-32, K-17 için Plus paketini belirtir.

İki rol de aynı soruyu sorar:

K-17 müşterisi için hangi hizmet kapsamı kararlaştırılmış?

Aşağıdakiler beklenen örnek yanıtlardır:

• Servis ekibi: “Erişebildiğim onaylı kaynaklardan kararlaştırılan kapsamı belirleyemiyorum. Lütfen sözleşme yönetimine başvurun.”

• Sözleşme yönetimi: “K-17 müşterisi için Plus paketi kararlaştırılmış. Kaynak: D-32.”

İlk yanıt kapalı kaynağın kimliğini veya varlığını açığa çıkarmaz. Genel katalog, belirli müşteri anlaşmasının kanıtı yapılmaz. İkinci yanıt, kişinin gerçekten açabildiği ve iddiayı destekleyen kaynak gerektirir.

İzinli havuzu yanıttan önce sınırlayın

Uygulama, modele göndermeden hangi içeriklerin kullanılabileceğini denetlemelidir. Belgeler metin parçalarına ayrılıyorsa erişim kuralları korunmalıdır. Arama önizlemeleri, saklanmış yanıtlar ve önceki konuşma içerikleri de tasarıma dahildir.

Modele sonradan gizli bölümleri göstermemesini söylemek bu sınırın yerine geçmez. Soruya yüksek benzerlik de okuma yetkisini kanıtlamaz.

Örnekten kontroller çıkarın

Planlanan sürüm için en az şu durumları hazırlayın:

• Yetkili rol, kaynakla desteklenen paket bilgisini ve erişilebilir kaynağı alır.

• Sınırlı rol, ek sorularla da kapalı içeriğe veya kapalı kaynaklarla ilgili ipuçlarına ulaşamaz.

• Yetki kaldırılınca önceki yetkili konuşmadan veya önbellekten korunan yanıt tekrar açılmaz.

• Belgeye gizlenmiş yönerge, asistanın iş talimatına dönüşmez.

Beklentiyi, izinli kaynak kapsamını ve sonucu izlenebilir kaydedin. Bunun için gizli belgelerin ham içerikleri topluca günlüğe alınmaz. Tasarımın çalışıp çalışmadığını ancak gerçek sonuçlarla bu beklentilerin karşılaştırılması gösterir. Kaynak planı tek başına tam güvenlik kanıtı değildir.

Kaynaklar

• OWASP — RAG Security Cheat Sheet

• Microsoft — RAG prompt engineering