Decidir por separado el envío de respuestas de IA
Un borrador útil puede facilitar el trabajo. El envío automático necesita justificación propia y un proceso de revisión, cambios y errores.
Un asistente de IA puede proporcionar un borrador de respuesta al equipo de servicio mientras la decisión de enviarlo sigue en manos del equipo. Esa función ya puede ser útil. Añadir el envío automático depende del tipo de mensaje, su fundamento y las consecuencias de una afirmación incorrecta.
Distintos mensajes necesitan distintos flujos
Un acuse de recibo fijo puede basarse en una operación de guardado confirmada. Esto permite un flujo acotado con una plantilla revisada. Una solución técnica redactada libremente contiene, en cambio, afirmaciones que deben corresponder a la situación actual.
En este ejemplo ficticio, una clienta comunica un fallo al exportar datos. El estado interno indica: investigación abierta, causa sin confirmar. Pese a ello, un supuesto borrador dice: «El error de exportación se ha corregido». La frase se entiende, pero el estado del caso no la respalda.
La interfaz de revisión debe hacer visible esa discrepancia. El personal necesita ver juntos la pregunta de la clienta, el estado actual y el borrador. Un botón de aprobación aislado, sin ese fundamento, ayuda poco a revisar el contenido.
La aprobación corresponde a un contenido concreto
Las directrices de Microsoft para la interacción entre personas e IA recomiendan facilitar el rechazo de sugerencias no deseadas y la corrección eficiente de resultados erróneos. En el ejemplo, el equipo debería poder modificar directamente la afirmación de resolución sin respaldo. Rechazarla debe mantener el borrador en la cola interna sin activar un mensaje por error.
La aprobación se refiere al contenido revisado y al destinatario previsto. Si después cambia el texto o el destinatario, el flujo debe resolver de nuevo la aprobación. El servicio de envío también necesita sus propias comprobaciones de permisos. OWASP recomienda aprobación humana antes de acciones de alto impacto y aplicar las reglas de acceso en el sistema que ejecuta la operación. Un botón de aprobación no sustituye esas reglas.
Comprobar la utilidad del alcance elegido
Esto no implica revisar individualmente cada mensaje automático. Un flujo automático verificado puede encajar para información acotada y respaldada. Cuando hay un diagnóstico individual o un compromiso con consecuencias importantes, un borrador seguido de la intervención del equipo puede ser el alcance adecuado.
Evalúe si las sugerencias son utilizables, si se corrigen con facilidad y si la transición al envío sigue siendo clara. La automatización puede terminar inicialmente en el borrador editable de forma interna. Ampliarla al envío autónomo requiere casos de prueba adecuados y una decisión con responsabilidad asignada.
Fuentes
Seguir leyendo
Todos los artículos
IA y automatización con ASES
Asistentes de IA y procesos automatizados