Einen Wissensassistenten an erlaubte Quellen anbinden
Ein ausgearbeitetes Beispiel mit zwei Rollen zeigt, welche Quellen ein Assistent verwenden darf und wann eine Kundenfrage offenbleibt.
Ein interner Wissensassistent soll eine Frage aus den Quellen beantworten, die für die anfragende Person freigegeben sind. Dafür reichen ein gemeinsamer Dokumentenordner und die Anweisung, vertraulich zu bleiben, nicht aus.
Das folgende Beispiel ist vollständig hypothetisch. Dokumente, Rollen, Kunde und Paketnamen sind erfunden. Es wurde kein Modell oder Kundensystem getestet.
Quellen und Aussagegrenzen festlegen
Der gemeinsame Katalog D-31 beschreibt Pakete, ordnet Kunden aber keinem zu. Der freigegebene Kundeneintrag D-32 weist K-17 das Paket Plus zu.
Rolle | Erlaubte Quellen | Aussagegrenze |
|---|---|---|
Serviceteam |
| Paketangebote beschreiben, keine Kundenzuordnung behaupten |
Vertragsverwaltung |
| Die dokumentierte Kundenzuordnung prüfen |
Beide Rollen stellen dieselbe Frage:
Welcher Serviceumfang ist für Kunde
K-17vereinbart?
Die folgenden Formulierungen sind erwartete Beispielantworten:
Serviceteam: „Mit den verfügbaren freigegebenen Quellen kann ich den vereinbarten Umfang nicht bestimmen. Bitte wenden Sie sich an die Vertragsverwaltung.“
Vertragsverwaltung: „Für Kunde
K-17ist das Paket Plus vereinbart. Quelle:D-32.“
Die erste Antwort verrät weder die Kennung noch die Existenz einer gesperrten Quelle. Der allgemeine Katalog wird nicht als Beleg für eine konkrete Kundenvereinbarung verwendet. Die zweite Antwort braucht eine Quelle, die diese Person tatsächlich öffnen darf und die die Aussage trägt.
Den erlaubten Bestand vor der Antwort begrenzen
Die Anwendung muss vor der Übergabe an das Modell prüfen, welche Inhalte verfügbar sein dürfen. Werden Dokumente in Textabschnitte zerlegt, müssen deren Zugriffsregeln erhalten bleiben. Auch Suchvorschauen, bereits gespeicherte Antworten und frühere Gesprächsinhalte gehören in diesen Entwurf.
Eine nachträgliche Aufforderung an das Modell, geheime Passagen nicht auszugeben, ersetzt diese Grenze nicht. Eine hohe Ähnlichkeit zur Frage belegt ebenfalls keine Leseberechtigung.
Aus dem Beispiel Prüfungen ableiten
Planen Sie für den vorgesehenen Stand mindestens diese Fälle:
Die berechtigte Rolle erhält die belegte Zuordnung und eine erreichbare Quelle.
Die eingeschränkte Rolle bekommt auch durch Nachfragen keine gesperrten Inhalte oder Hinweise auf gesperrte Quellen.
Nach Rechteentzug werden geschützte Antworten auch aus einem früher berechtigten Gespräch oder Cache nicht erneut zugänglich.
Eine im Dokument versteckte Aufforderung wird nicht zur Arbeitsanweisung des Assistenten.
Halten Sie Erwartung, erlaubten Quellenbereich und Ergebnis nachvollziehbar fest. Rohinhalte vertraulicher Dokumente werden dafür nicht pauschal protokolliert. Erst der Vergleich der tatsächlichen Ergebnisse mit diesen Erwartungen zeigt, ob der entworfene Ablauf funktioniert. Der Quellenplan allein ist noch kein vollständiger Sicherheitsnachweis.
Quellen
Weiterlesen
Alle Beiträge
KI & Automatisierung mit ASES
KI-Assistenten und automatisierte Abläufe