Human-in-the-loop
Ved human-in-the-loop deltar et menneske aktivt i et automatisert forløp. Nyttig kontroll krever forståelige opplysninger og mulighet til å gripe inn.
Bygg inn en menneskelig beslutning i forløpet
Human-in-the-loop (HITL) betyr aktiv menneskelig deltakelse i et automatisert system eller forløp. Personen kan for eksempel rette et resultat eller godkjenne en foreslått handling. Den konkrete oppgaven må være definert.
I et oppdiktet fakturaforløp ser kontrolløren originalbilag, registrert beløp og tilhørende bestilling ved siden av hverandre. Registreringen kan rettes, eller saken kan settes til avklaring. En enkelt bekreftelsesknapp uten disse opplysningene gir ingen nyttig kontroll.
HITL kan også inngå i modelltrening. En rettelse i det løpende forløpet trener likevel ikke automatisk modellen på nytt; det krever en separat etablert læringsprosess. Menneskelig deltakelse garanterer heller ikke at alle feil oppdages.
Kilder
Beslektede begreper
- KonfidensskårEn konfidensskår vurderer en modellprediksjon etter metoden som brukes. Den gir ingen forretningsmessig godkjenning.
- ModellkortEt modellkort dokumenterer formål, grunnlag, evalueringsbetingelser og kjente begrensninger for en bestemt versjon av en KI-modell.
- KI-modenhetKI-modenhet gjelder forutsetningene for et prosjekt: mål, brukbare data, kompetanse, ansvar og et fungerende driftsopplegg.
- Context engineeringContext engineering forbereder informasjon til hvert modellkall: relevante instruksjoner, meldinger, kilder og gjeldende tilstander.
- AnomalideteksjonMetoder som markerer uvanlige observasjoner sammenlignet med en fastsatt referanse eller et innlært mønster.
- PrognosemodellEn modell som bruker tilgjengelige opplysninger til å anslå en fremtidig størrelse for en fastsatt periode.
Artikler om temaet
KI og automatisering med ASES
KI-assistenter og automatiserte prosesser