Décider séparément de l’envoi des réponses de l’IA
Un brouillon utile peut faciliter le travail. L’envoi automatique demande sa propre justification et un processus de vérification, de modification et d’erreur.
Un assistant d’IA peut fournir un brouillon de réponse à l’équipe de service tout en lui laissant la décision d’envoi. Cette fonction peut être utile à elle seule. L’ajout d’un envoi automatique dépend du type de message, de ses fondements et des conséquences d’une affirmation erronée.
Des messages différents demandent des parcours différents
Un accusé de réception fixe peut s’appuyer sur un enregistrement confirmé. Cela permet un parcours limité utilisant un modèle de message vérifié. Une solution technique rédigée librement contient en revanche des affirmations de fond qui doivent correspondre à la situation actuelle.
Dans cet exemple fictif, une cliente signale un échec d’export de données. L’état interne du dossier indique : investigation ouverte, cause non confirmée. Un brouillon supposé affirme pourtant : « L’erreur d’export a été corrigée. » La phrase est compréhensible, mais l’état du dossier ne l’étaye pas.
L’interface de vérification doit rendre cet écart visible. Les collaborateurs ont besoin de la question de la cliente, de l’état actuel et du brouillon réunis. Un bouton de validation isolé, sans ces éléments, aide peu à vérifier le fond.
Une validation porte sur un contenu précis
Les recommandations de Microsoft sur l’interaction humain-IA préconisent de faciliter le rejet des suggestions indésirables et la correction des résultats erronés. Dans l’exemple, l’équipe doit pouvoir modifier directement l’affirmation de résolution non étayée. Son rejet doit conserver le brouillon dans la file de travail interne sans déclencher un message par erreur.
La validation porte sur le contenu vérifié et le destinataire prévu. Si le texte ou le destinataire change ensuite, le parcours doit clarifier à nouveau cette validation. Le service d’envoi a également besoin de ses propres contrôles d’autorisation. OWASP recommande une approbation humaine avant les actions à fort impact et l’application des règles d’accès dans le système exécutant l’opération. Un bouton de validation ne remplace pas ces règles.
Vérifier l’utilité du périmètre choisi
Cela n’impose pas une vérification individuelle de chaque message automatique. Un parcours automatique vérifié peut convenir à des informations étroitement délimitées et étayées. Lorsqu’un diagnostic individuel ou un engagement conséquent intervient, un brouillon suivi d’un traitement par l’équipe peut être le bon périmètre.
Évaluez donc si les suggestions sont réellement utilisables, si elles se corrigent facilement et si le passage à l’envoi reste clair. L’automatisation peut d’abord s’arrêter au brouillon modifiable en interne. Son extension à l’envoi autonome demande des cas de test adaptés et une décision dont la responsabilité est assumée.
Sources
Écrit par
- Matthias BeckerRédacteur IA et automatisationMatthias Becker s’occupe chez ASES des articles sur l’intelligence artificielle et l’automatisation. Il examine comment les entreprises peuvent utiliser l’IA dans leurs processus de travail et où se situent les limites de chaque application.
À lire aussi
Tous les articles
IA & automatisation avec ASES
Assistants IA et processus automatisés