Repérer les biais dans le machine learning

Dans la vidéo, nous avons mentionné un logiciel de recrutement basé sur l’IA qui privilégiait les hommes parce qu’il avait appris, à partir de l’historique des données, qu’il y avait plus d’hommes embauchés que de femmes. Lorsque nous disposons de modèles qui affectent la vie des gens, nous devons les évaluer soigneusement afin de détecter tout comportement discriminatoire pouvant être décelé dans les données historiques.

Dans cet exercice, vous disposez d’un modèle qui tente de prédire si une personne ne remboursera pas son prêt. Vous pouvez ventiler les prédictions obtenues en fonction de différentes caractéristiques telles que les données démographiques et le statut professionnel. Jouez avec ces caractéristiques et voyez si vous pouvez trouver quelque chose de suspect sur les personnes prédites en défaut de paiement et celles qui ne le sont pas.

Quelle ou quelles caractéristiques devraient faire l’objet d’un examen plus approfondi pour détecter les biais potentiels avant de déployer le modèle ?