Människa i loopen
En människa i loopen deltar aktivt i ett automatiserat flöde. Användbar granskning kräver begriplig information och möjlighet att ingripa.
Bygg in ett mänskligt beslut i flödet
Människa i loopen, eller Human-in-the-Loop (HITL), innebär aktiv mänsklig medverkan i ett automatiserat system eller flöde. Personen kan exempelvis rätta ett resultat eller godkänna en föreslagen åtgärd. Den konkreta uppgiften måste definieras.
I ett påhittat fakturaflöde ser granskaren originalunderlag, registrerat belopp och tillhörande beställning bredvid varandra. Registreringen kan rättas eller ärendet läggas för utredning. En ensam bekräftelseknapp utan dessa uppgifter ger ingen användbar kontroll.
HITL kan också förekomma vid modellträning. En rättelse i det löpande flödet tränar dock inte automatiskt om modellen; det kräver en separat inrättad lärprocess. Mänsklig medverkan garanterar inte heller att alla fel upptäcks.
Källor
Relaterade begrepp
- KonfidenspoängEn konfidenspoäng bedömer en modellförutsägelse enligt den använda metoden. Den ger inget verksamhetsmässigt godkännande.
- ModellkortEtt modellkort dokumenterar syfte, grunder, utvärderingsvillkor och kända begränsningar för en viss version av en AI-modell.
- Beredskap för AIBeredskap för AI gäller ett projekts förutsättningar: mål, användbara data, kompetens, ansvar och ett fungerande arbetssätt för driften.
- KontextutformningKontextutformning förbereder information inför varje modellanrop: relevanta instruktioner, meddelanden, källor och aktuella tillstånd.
- AnomalidetektionMetoder som markerar ovanliga observationer jämfört med en fastställd referens eller ett inlärt mönster.
- PrognosmodellEn modell som använder tillgänglig information för att uppskatta ett framtida värde för en bestämd period.
Artiklar om ämnet
AI & automatisering med ASES
AI-assistenter och automatiserade flöden