Conectar un asistente de conocimiento a las fuentes permitidas
Un ejemplo desarrollado con dos roles muestra qué fuentes puede usar un asistente y cuándo debe quedar abierta la pregunta de un cliente.
Un asistente interno debe responder con fuentes accesibles para quien pregunta. Una carpeta común y una instrucción de confidencialidad no bastan.
El siguiente ejemplo es completamente hipotético. Documentos, roles, cliente y nombres de paquetes son inventados. No se probó ningún modelo ni sistema cliente.
Definir fuentes y límites de las conclusiones
El catálogo común D-31 describe paquetes sin asignarlos a clientes. El registro aprobado D-32 asigna el paquete Plus a K-17.
Rol | Fuentes permitidas | Límite de las conclusiones |
|---|---|---|
Equipo de servicio |
| Describir paquetes sin afirmar una asignación cliente |
Gestión de contratos |
| Comprobar la asignación documentada |
Ambos roles preguntan lo mismo:
¿Qué alcance de servicio se acordó para el cliente
K-17?
Estos son ejemplos de respuestas esperadas:
Equipo de servicio: «Las fuentes aprobadas a las que tengo acceso no permiten determinar el alcance acordado. Consulte con gestión de contratos».
Gestión de contratos: «Se acordó el paquete Plus para el cliente
K-17. Fuente:D-32».
La primera respuesta no revela ni el identificador ni la existencia de una fuente restringida. El catálogo general no demuestra un acuerdo particular. La segunda necesita una fuente que la persona pueda abrir y que respalde la afirmación.
Limitar el conjunto permitido antes de responder
La aplicación debe comprobar qué contenido puede utilizarse antes de enviarlo al modelo. Al dividir documentos en fragmentos deben conservarse sus reglas de acceso. Las vistas previas, las respuestas guardadas y las conversaciones anteriores también forman parte del diseño.
Pedir después al modelo que oculte pasajes secretos no sustituye ese límite. Una alta similitud con la pregunta tampoco demuestra permiso de lectura.
Derivar comprobaciones del ejemplo
Planifique al menos estos casos para la versión prevista:
El rol autorizado recibe la asignación respaldada y una fuente accesible.
Las preguntas adicionales no dan al rol restringido contenido protegido ni pistas sobre fuentes restringidas.
Tras retirar permisos, ni una conversación antes autorizada ni la caché vuelven accesibles las respuestas protegidas.
Una instrucción oculta en un documento no se convierte en instrucción de trabajo del asistente.
Registre expectativas, fuentes permitidas y resultados de forma trazable. No exige guardar sistemáticamente contenido confidencial en bruto. Solo comparar con resultados reales demuestra si el flujo diseñado funciona. El plan de fuentes no es por sí solo una demostración completa de seguridad.
Fuentes
Escrito por
- Nora HenningRedactora de seguridad informáticaNora Henning se encarga en ASES de los contenidos editoriales sobre seguridad informática. Escribe sobre la seguridad de las aplicaciones y explica la relación entre los derechos de acceso y la protección de los datos de la empresa.
Seguir leyendo
Todos los artículos
IA y automatización con ASES
Asistentes de IA y procesos automatizados