Individuare bias nella previsione del default di un prestito

Nel video, abbiamo visto un software di selezione del personale basato su AI che preferiva gli uomini perché aveva imparato da dati storici in cui venivano assunti più uomini. Quando i modelli incidono sulla vita delle persone, dobbiamo valutarli con attenzione per individuare eventuali comportamenti discriminatori appresi dai dati storici.

In questo esercizio hai un modello che cerca di prevedere se qualcuno andrà in default sul proprio prestito. Puoi suddividere le previsioni risultanti in base a diverse caratteristiche, come dati demografici e stato occupazionale. Esplora queste caratteristiche e verifica se noti qualcosa di sospetto su chi è previsto vada in default e chi no.

Quale caratteristica dovrebbe essere indagata più a fondo per potenziale bias prima di distribuire il modello?