Identifiera bias i förutsägelser om lånebetalning

I videon lärde vi oss om en AI-driven rekryteringsprogramvara som föredrog män, eftersom den tränades på historiska data där fler män anställdes. När modeller påverkar människors liv behöver vi noggrant utvärdera dem för diskriminerande beteende som kan ha lärts in från historiska data.

I den här övningen har du en modell som försöker förutsäga om en person kommer att misslyckas med att betala tillbaka sitt lån. Du kan bryta ned förutsägelserna efter olika särdrag, som demografi och anställningsstatus. Utforska dessa särdrag och se om du kan hitta något misstänkt i vem som förutsägs misslyckas med betalning och vem som inte gör det.

Vilket särdrag bör undersökas närmare för potentiell bias innan modellen driftsätts?