Besluta separat om AI-svar ska skickas
Ett användbart svarsutkast kan underlätta arbetet. Automatisk sändning behöver en egen motivering och ett flöde för granskning, ändringar och fel.
En AI-assistent kan ge serviceteamet ett svarsutkast medan beslutet om att skicka ligger kvar hos teamet. Funktionen kan vara användbar i sig. Om automatisk sändning ska läggas till beror på meddelandets typ, dess underlag och följderna av ett felaktigt påstående.
Olika meddelanden behöver olika flöden
En fast mottagningsbekräftelse kan bygga på en bekräftad lagring. Det möjliggör ett avgränsat flöde med en granskad mall. En fritt formulerad teknisk lösning innehåller däremot sakpåståenden som måste stämma med den aktuella situationen.
I detta fiktiva exempel rapporterar en kund en misslyckad dataexport. Intern ärendestatus är: utredning öppen, orsak inte bekräftad. Ett tänkt svarsutkast säger ändå: ”Exportfelet har åtgärdats.” Meningen är begriplig, men ärendestatusen stöder den inte.
En granskningsvy måste göra denna skillnad synlig. Medarbetarna behöver kundfrågan, aktuell status och utkastet tillsammans. En ensam godkännandeknapp utan detta underlag ger begränsat stöd för sakgranskningen.
Ett godkännande gäller ett bestämt innehåll
Microsofts riktlinjer för samspel mellan människor och AI rekommenderar att oönskade förslag ska vara lätta att avvisa och felaktiga resultat ska kunna rättas effektivt. I exemplet bör teamet direkt kunna ändra det obelagda påståendet om att felet är löst. Ett avvisande ska behålla utkastet i den interna arbetskön utan att oavsiktligt skicka ett meddelande.
Godkännandet gäller det granskade innehållet och den avsedda mottagaren. Om texten eller mottagaren ändras efteråt måste flödet klarlägga godkännandet igen. Sändningstjänsten behöver dessutom egna behörighetskontroller. OWASP rekommenderar mänskligt godkännande före åtgärder med stor påverkan och att åtkomstregler upprätthålls i systemet som utför åtgärden. En godkännandeknapp ersätter inte dessa regler.
Granska nyttan med den valda omfattningen
Detta innebär inte att varje automatiskt meddelande måste granskas enskilt. Ett granskat automatiskt flöde kan passa för snävt avgränsad och underbyggd information. Vid en individuell diagnos eller ett löfte med betydande följder kan ett utkast följt av teamets bearbetning vara rätt omfattning.
Bedöm därför om förslagen faktiskt är användbara, hur lätt de kan korrigeras och om övergången till sändning förblir tydlig. Automatiseringen kan till en början sluta vid det internt redigerbara utkastet. En utökning till självständig sändning behöver egna lämpliga testfall och ett beslut med tydligt ansvar.
Källor
Läs vidare
Alla artiklar
AI & automatisering med ASES
AI-assistenter och automatiserade flöden