AI-bias

Waar kunnen eenzijdige resultaten vandaan komen?

AI-bias betekent systematische vertekeningen in gegevens, modellen of het gebruik ervan. Daardoor kunnen bepaalde gevallen of groepen mensen slechter worden behandeld. Oorzaken liggen bijvoorbeeld in gegevensselectie en labels, het leerdoel of bestaande bedrijfspraktijken. Zo’n vertekening vereist geen bewuste benadeling. Een goed gemiddelde kan verbergen dat het systeem in een deel van het beoogde gebruik vaak fouten maakt.

Een fictief model voor het verdelen van servicevragen wordt vooral getraind met berichten van de centrale werkplaats. Daar staan officiële productnamen in; lokale afkortingen van andere vestigingen zijn nauwelijks vertegenwoordigd. Hun vragen zouden daardoor vaker verkeerd kunnen worden toegewezen. Voor onderzoek worden voorbeelden uit die vestigingen volgens dezelfde bedrijfsregel gelabeld en worden verkeerde toewijzingen apart bekeken, samen met de aantallen gevallen. Zo kan worden onderzocht of gegevensselectie, labels of modelgedrag moeten verbeteren. Meer trainingsberichten helpen alleen als ze de relevante leemte werkelijk afdekken.

Bronnen

• NIST · Towards a Standard for Identifying and Managing Bias in Artificial Intelligence

• IBM · Data Science Best Practices: Monitoring