Decidere separatamente l’invio delle risposte dell’IA

Un assistente di IA può fornire al team di assistenza una bozza di risposta, lasciando al team la decisione sull’invio. Questa funzione può già essere utile. L’aggiunta dell’invio automatico dipende dal tipo di messaggio, dal suo fondamento e dalle conseguenze di un’affermazione errata.

Messaggi diversi richiedono flussi diversi

Una conferma di ricezione fissa può basarsi su un salvataggio confermato. Si può quindi progettare un flusso circoscritto con un modello di messaggio verificato. Una soluzione tecnica formulata liberamente contiene invece affermazioni che devono corrispondere alla situazione attuale.

In questo esempio ipotetico, una cliente segnala un errore nell’esportazione dei dati. Lo stato interno indica: indagine aperta, causa non confermata. Una bozza ipotizzata dice però: «L’errore di esportazione è stato risolto». La frase è comprensibile, ma lo stato del caso non la sostiene.

L’interfaccia di verifica deve rendere visibile questa discrepanza. I collaboratori devono vedere insieme domanda della cliente, stato attuale e bozza. Un solo pulsante di approvazione, senza questi elementi, aiuta poco a verificare il contenuto.

L’approvazione riguarda un contenuto preciso

Le linee guida Microsoft per l’interazione tra persone e IA raccomandano di facilitare il rifiuto dei suggerimenti indesiderati e la correzione efficiente dei risultati errati. Nell’esempio, il team deve poter modificare direttamente l’affermazione di risoluzione priva di riscontro. Il rifiuto deve mantenere la bozza nella coda interna senza attivare un messaggio per errore.

L’approvazione si riferisce al contenuto verificato e al destinatario previsto. Se successivamente cambiano testo o destinatario, il flusso deve chiarire nuovamente l’approvazione. Il servizio di invio richiede inoltre controlli propri sulle autorizzazioni. OWASP raccomanda l’approvazione umana prima di azioni ad alto impatto e l’applicazione delle regole di accesso nel sistema che esegue l’operazione. Un pulsante di approvazione non sostituisce queste regole.

Verificare l’utilità del perimetro scelto

Da ciò non deriva l’obbligo di verificare singolarmente ogni messaggio automatico. Un flusso automatico verificato può essere adatto a informazioni circoscritte e supportate. In presenza di diagnosi individuali o impegni rilevanti, una bozza seguita dal lavoro del team può essere il perimetro appropriato.

Valuti quindi se i suggerimenti sono davvero utilizzabili, se si correggono facilmente e se il passaggio all’invio resta chiaro. L’automazione può inizialmente fermarsi alla bozza modificabile internamente. L’estensione all’invio autonomo richiede casi di test appropriati e una decisione di cui sia chiara la responsabilità.

Fonti

• Microsoft HAX Toolkit — HAX Design Library

• OWASP — LLM06:2025 Excessive Agency