Vurder sending av KI-svar som en egen beslutning
Et brukbart svarutkast kan lette arbeidet. Automatisk sending trenger en egen begrunnelse og et forløp for kontroll, endringer og feil.
En KI-assistent kan gi serviceteamet et svarutkast mens beslutningen om sending blir hos teamet. Denne funksjonen kan være nyttig i seg selv. Om automatisk sending skal legges til, avhenger av meldingstypen, grunnlaget og følgene av en feil påstand.
Ulike meldinger trenger ulike forløp
En fast mottaksbekreftelse kan bygge på bekreftet lagring. Det åpner for et avgrenset forløp med en kontrollert mal. En fritt formulert teknisk løsning inneholder derimot innholdsmessige påstander som må passe til den aktuelle situasjonen.
I dette tenkte eksempelet melder en kunde om en mislykket dataeksport. Intern saksstatus er: undersøkelse åpen, årsak ikke bekreftet. Et tenkt svarutkast sier likevel: «Eksportfeilen er rettet.» Setningen er forståelig, men saksstatusen støtter den ikke.
En kontrollvisning må gjøre forskjellen synlig. Medarbeiderne trenger kundens spørsmål, gjeldende status og utkastet samlet. En enkelt godkjenningsknapp uten dette grunnlaget gir begrenset støtte til innholdsmessig kontroll.
En godkjenning gjelder et bestemt innhold
Microsofts retningslinjer for samspill mellom mennesker og KI anbefaler at uønskede forslag skal være lette å avvise, og at feilaktige resultater skal kunne rettes effektivt. I eksempelet bør teamet kunne rette den udokumenterte påstanden direkte i utkastet. En avvisning skal beholde utkastet i den interne arbeidskøen uten å utløse en melding ved et uhell.
Godkjenningen gjelder det kontrollerte innholdet og den tiltenkte mottakeren. Hvis teksten eller mottakeren endres etterpå, må forløpet avklare godkjenningen på nytt. Sendetjenesten trenger dessuten egne kontroller av tillatelser. OWASP anbefaler menneskelig godkjenning før handlinger med stor innvirkning og håndheving av tilgangsregler i systemet som utfører handlingen. En godkjenningsknapp erstatter ikke disse reglene.
Vurder nytten av valgt omfang
Dette innebærer ikke at hver automatisk melding må kontrolleres enkeltvis. Et kontrollert automatisk forløp kan passe til snevert avgrenset, underbygd informasjon. Ved individuell diagnostisering eller et løfte med vesentlige følger kan et utkast med påfølgende behandling hos teamet være riktig omfang.
Vurder derfor om forslagene faktisk kan brukes, hvor lett de kan rettes, og om overgangen til sending er tydelig. Automatiseringen kan i første omgang slutte ved det internt redigerbare utkastet. En utvidelse til selvstendig sending trenger egne egnede testtilfeller og en beslutning med tydelig ansvar.
Kilder
Les videre
Alle artikler
KI og automatisering med ASES
KI-assistenter og automatiserte prosesser