Apart beslissen over het versturen van AI-antwoorden

Een AI-assistent kan het serviceteam een antwoordconcept geven, terwijl het team over het versturen blijft beslissen. Die functie kan op zichzelf nuttig zijn. Of automatisch versturen wordt toegevoegd, hangt af van het soort bericht, de onderbouwing en de gevolgen van een onjuiste uitspraak.

Verschillende berichten vragen verschillende processen

Een vaste ontvangstbevestiging kan verwijzen naar bevestigde opslag. Daarvoor is een smal proces met een gecontroleerd sjabloon te ontwerpen. Een vrij geformuleerde technische oplossing bevat daarentegen inhoudelijke uitspraken die bij de actuele situatie moeten passen.

In dit fictieve voorbeeld meldt een klant een mislukte gegevensexport. De interne behandelstatus luidt: onderzoek open, oorzaak niet bevestigd. Een mogelijk antwoordconcept zegt toch: ‘De exportfout is verholpen.’ De zin is begrijpelijk, maar wordt niet door de behandelstatus ondersteund.

Een controle-interface moet dit verschil zichtbaar maken. Medewerkers hebben de klantvraag, de actuele status en het concept bij elkaar nodig. Een losse goedkeuringsknop zonder deze onderbouwing helpt maar beperkt bij de inhoudelijke controle.

Goedkeuring hoort bij specifieke inhoud

De Microsoft-richtlijnen voor mens-AI-interactie adviseren om ongewenste voorstellen eenvoudig te kunnen afwijzen en onjuiste resultaten efficiënt te kunnen corrigeren. In het voorbeeld moet het team de ongefundeerde bewering dat het probleem is opgelost direct kunnen aanpassen. Afwijzen moet het concept in de interne werkvoorraad houden zonder onbedoeld een bericht te versturen.

De goedkeuring geldt voor de gecontroleerde inhoud en de bedoelde ontvanger. Als tekst of ontvanger daarna verandert, moet het proces de goedkeuring opnieuw vaststellen. Ook de verzenddienst heeft eigen machtigingscontroles nodig. OWASP adviseert menselijke goedkeuring vóór ingrijpende acties en handhaving van toegangsregels in het uitvoerende systeem. Een goedkeuringsknop vervangt die regels niet.

Het nut van de gekozen reikwijdte beoordelen

Dit betekent geen verplichte afzonderlijke controle van ieder automatisch bericht. Een gecontroleerd automatisch proces kan passen bij smal afgebakende, onderbouwde informatie. Bij een individuele diagnose of een toezegging met grote gevolgen kan een concept met daaropvolgende behandeling door het team de juiste reikwijdte zijn.

Beoordeel daarom of voorstellen werkelijk bruikbaar zijn, hoe gemakkelijk ze te corrigeren zijn en of de overgang naar versturen duidelijk blijft. Automatisering kan aanvankelijk eindigen bij het intern bewerkbare concept. Uitbreiding naar zelfstandig versturen vraagt eigen passende testgevallen en een beslissing waarvoor verantwoordelijkheid wordt genomen.

Bronnen

• Microsoft HAX Toolkit — HAX Design Library

• OWASP — LLM06:2025 Excessive Agency