Bias dell’IA

Da dove possono derivare risultati sbilanciati?

Il bias dell’IA indica distorsioni sistematiche nei dati, nei modelli o nel loro utilizzo. Possono portare a trattare peggio determinati casi o gruppi di persone. Le cause comprendono la selezione e l’etichettatura dei dati, l’obiettivo di apprendimento o le pratiche aziendali esistenti. Una simile distorsione non richiede l’intenzione di svantaggiare. Una buona media può nascondere errori frequenti in una parte dell’impiego previsto.

Un modello fittizio per smistare richieste di assistenza viene addestrato soprattutto con messaggi dell’officina centrale. Qui si usano i nomi ufficiali dei prodotti; le abbreviazioni locali delle altre filiali sono poco rappresentate. Le loro richieste potrebbero quindi essere assegnate male più spesso. Per verificarlo, si etichettano esempi delle filiali interessate secondo la stessa regola operativa e si esaminano separatamente le assegnazioni errate insieme ai conteggi dei casi. Si può così valutare se migliorare selezione, etichettatura o comportamento del modello. Più messaggi di addestramento aiutano solo se coprono davvero quella lacuna.

Fonti

• NIST · Towards a Standard for Identifying and Managing Bias in Artificial Intelligence

• IBM · Data Science Best Practices: Monitoring