KI-bias
Systematiske skjevheter i KI-systemer som kan stille bestemte tilfeller eller grupper av mennesker dårligere.
Hvor kan ensidige resultater komme fra?
KI-bias betegner systematiske skjevheter i data, modeller eller bruken av dem. De kan føre til dårligere behandling av bestemte tilfeller eller grupper av mennesker. Årsaker kan ligge i utvalg og merking av data, læringsmålet eller eksisterende praksis i virksomheten. En slik skjevhet krever ikke en bevisst hensikt om å stille noen dårligere. Et godt gjennomsnitt kan skjule hyppige feil i en del av den planlagte bruken.
En fiktiv modell for fordeling av servicehenvendelser trenes hovedsakelig med meldinger fra det sentrale verkstedet. Der brukes offisielle produktnavn; lokale forkortelser fra andre avdelinger er knapt representert. Henvendelsene deres kan derfor bli feil tilordnet oftere. Ved en undersøkelse merkes eksempler fra de berørte avdelingene etter samme virksomhetsregel, og feiltilordninger vurderes separat sammen med antall tilfeller. Dermed kan man undersøke om datautvalg, merking eller modellatferd må forbedres. Flere treningsmeldinger hjelper bare dersom de faktisk dekker den relevante mangelen.
Kilder
Beslektede begreper
- MaskinlæringModeller lærer mønstre fra data og bruker dem på nye inndata.
- Veiledet læringEn læringsmetode som bruker inndata sammen med tilhørende målverdier eller klasser som treningseksempler.
- TreningsdataEksemplene som en modell lærer sammenhenger eller parametere fra under treningen.
- Testdata i maskinlæringData til avsluttende vurdering der resultatene ikke er brukt til å velge modellvarianten som vurderes.
- Forklarbar KITilnærminger som gjør et KI-systems resultater eller virkemåte forståelige for de tiltenkte mottakerne.
- KonfusjonsmatriseEn tabell som sammenligner referanseklasser og modellprediksjoner og teller riktige og gale tilordninger.
Ditt prosjekt med ASES
Beskriv prosjektet ditt for oss. Vi tar kontakt med en første vurdering.