Biais de l’IA
Des distorsions systématiques dans les systèmes d’IA pouvant désavantager certains cas ou groupes de personnes.
D’où peuvent venir des résultats déséquilibrés ?
Le biais de l’IA désigne des distorsions systématiques dans les données, les modèles ou leur utilisation. Elles peuvent conduire à moins bien traiter certains cas ou groupes de personnes. La sélection et l’étiquetage des données, l’objectif d’apprentissage ou les pratiques existantes de l’entreprise peuvent en être à l’origine. Une telle distorsion ne suppose pas une volonté de désavantager. Une bonne moyenne peut masquer des erreurs fréquentes dans une partie de l’usage prévu.
Un modèle fictif de répartition des demandes de service est entraîné surtout sur les messages de l’atelier central. Ceux-ci utilisent les noms officiels des produits ; les abréviations locales des autres agences sont peu représentées. Leurs demandes pourraient donc être mal affectées plus souvent. Pour l’examiner, des exemples de ces agences sont étiquetés selon la même règle métier, puis les mauvaises affectations sont étudiées séparément avec les effectifs correspondants. Cela permet de rechercher si la sélection, l’étiquetage ou le comportement du modèle doivent être améliorés. Davantage de messages d’entraînement ne sont utiles que s’ils couvrent réellement cette lacune.
Sources
Termes associés
- Apprentissage automatiqueLes modèles apprennent des régularités dans les données et les appliquent à de nouvelles entrées.
- Apprentissage superviséUne méthode qui utilise des entrées accompagnées de leurs valeurs ou classes cibles comme exemples d’entraînement.
- Données d’entraînementLes exemples à partir desquels un modèle apprend des relations ou des paramètres pendant l’entraînement.
- Données de test en apprentissage automatiqueDes données réservées à l’évaluation finale dont les résultats n’ont pas servi à sélectionner la variante évaluée.
- IA explicableDes approches qui rendent les résultats ou le fonctionnement d’un système d’IA compréhensibles pour leurs destinataires.
- Matrice de confusionUn tableau comparant les classes de référence aux prédictions du modèle et comptant les affectations correctes et incorrectes.
Votre projet avec ASES
Décrivez-nous votre projet. Nous revenons vers vous avec une première évaluation.