AI-bias
Systematiska snedvridningar i AI-system som kan missgynna vissa fall eller grupper av människor.
Varifrån kan ensidiga resultat komma?
AI-bias betecknar systematiska snedvridningar i data, modeller eller hur de används. De kan leda till att vissa fall eller grupper av människor behandlas sämre. Orsaker kan finnas i urval och märkning av data, lärandemålet eller befintliga arbetssätt i verksamheten. En sådan snedvridning förutsätter ingen medveten avsikt att missgynna. Ett bra genomsnitt kan dölja att systemet ofta gör fel i en del av den avsedda användningen.
En fiktiv modell för fördelning av serviceärenden tränas främst med meddelanden från den centrala verkstaden. Där används officiella produktnamn; lokala förkortningar från andra filialer är knappt representerade. Deras ärenden skulle därför kunna tilldelas fel oftare. För en undersökning märks exempel från de berörda filialerna enligt samma verksamhetsregel, och feltilldelningar granskas separat tillsammans med antalet fall. Då går det att undersöka om dataurval, märkning eller modellbeteende behöver förbättras. Fler träningsmeddelanden hjälper bara om de faktiskt täcker den relevanta luckan.
Källor
Relaterade begrepp
- MaskininlärningModeller lär sig mönster från data och använder dem på nya indata.
- Övervakad inlärningEn inlärningsmetod som använder indata tillsammans med tillhörande målvärden eller klasser som träningsexempel.
- TräningsdataDe exempel som en modell lär sig samband eller parametrar från under träningen.
- Testdata inom maskininlärningData för slutbedömning vars resultat inte har använts för att välja den modellvariant som bedöms.
- Förklarbar AIMetoder som gör ett AI-systems resultat eller arbetssätt begripliga för de avsedda mottagarna.
- FörväxlingsmatrisEn tabell som jämför referensklasser med modellens förutsägelser och räknar rätt och fel tilldelningar.
Ditt projekt med ASES
Beskriv ditt projekt för oss. Vi hör av oss med en första bedömning.