Repérer les biais dans la prédiction de défaut de prêt

Dans la vidéo, nous avons vu un logiciel de recrutement dopé à l'IA qui préférait les hommes, car il avait appris à partir de données historiques où davantage d'hommes étaient embauchés. Lorsque nos modèles ont un impact sur la vie des personnes, nous devons les évaluer avec soin pour détecter tout comportement discriminatoire pouvant être appris des données historiques.

Dans cet exercice, vous disposez d'un modèle qui tente de prédire si une personne fera défaut sur son prêt. Vous pouvez ventiler les prédictions par différentes variables comme la démographie et le statut professionnel. Explorez ces variables et voyez si vous pouvez repérer quelque chose de suspect sur qui est prédit faire défaut et qui ne l'est pas.

Quelle variable faudrait-il examiner plus en détail pour un biais potentiel avant de déployer le modèle ?