Déceler les biais dans la prédiction de défaut de paiement

Dans la vidéo, nous avons vu un logiciel de recrutement propulsé par l'IA qui privilégiait les hommes, car il avait appris à partir de données historiques d'une époque où plus d'hommes étaient embauchés. Lorsqu'un modèle a des répercussions sur la vie des gens, il faut l'évaluer avec soin pour déceler tout comportement discriminatoire hérité des données historiques.

Dans cet exercice, vous disposez d'un modèle qui tente de prédire si une personne fera défaut sur son prêt. Vous pouvez ventiler les prédictions par différentes caractéristiques, comme les données démographiques et le statut d'emploi. Explorez ces caractéristiques et vérifiez s'il y a quelque chose de suspect concernant les personnes prévues en défaut et celles qui ne le sont pas.

Quelle caractéristique faudrait-il examiner davantage pour un biais potentiel avant de déployer le modèle?