AI-bias
Systematiske skævheder i AI-systemer, som kan stille bestemte tilfælde eller grupper af mennesker dårligere.
Hvor kan ensidige resultater komme fra?
AI-bias betegner systematiske skævheder i data, modeller eller deres anvendelse. De kan medføre dårligere behandling af bestemte tilfælde eller grupper af mennesker. Årsager kan være udvælgelse og mærkning af data, læringsmålet eller eksisterende praksis i virksomheden. En sådan skævhed kræver ikke en bevidst hensigt om at stille nogen dårligere. Et godt gennemsnit kan skjule hyppige fejl i en del af den planlagte brug.
En fiktiv model til fordeling af servicehenvendelser trænes hovedsageligt med beskeder fra det centrale værksted. Her bruges officielle produktnavne; lokale forkortelser fra andre afdelinger er knap repræsenteret. Deres henvendelser kan derfor blive forkert tilordnet oftere. Ved en undersøgelse mærkes eksempler fra de berørte afdelinger efter samme forretningsregel, og fejltilordninger vurderes særskilt sammen med antallet af tilfælde. Det gør det muligt at undersøge, om dataudvælgelse, mærkning eller modeladfærd bør forbedres. Flere træningsbeskeder hjælper kun, hvis de faktisk dækker den relevante mangel.
Kilder
Relaterede begreber
- MaskinlæringModeller lærer mønstre fra data og bruger dem på nye input.
- Superviseret læringEn læringsmetode, der bruger input sammen med tilhørende målværdier eller klasser som træningseksempler.
- TræningsdataDe eksempler, som en model lærer sammenhænge eller parametre fra under træningen.
- Testdata i maskinlæringData til afsluttende vurdering, hvis resultater ikke er brugt til at vælge den vurderede modelvariant.
- Forklarlig AITilgange, der gør et AI-systems resultater eller virkemåde forståelige for de tiltænkte modtagere.
- ForvekslingsmatrixEn tabel, der sammenholder referenceklasser og modellens forudsigelser og tæller korrekte og forkerte tilordninger.
Dit projekt med ASES
Beskriv dit projekt for os. Vi vender tilbage med en første vurdering.