Individuare i bias nel Machine Learning

Nel video abbiamo visto un software di selezione del personale abilitato all'AI che preferiva gli uomini perché aveva imparato dai dati storici, in cui venivano assunti più uomini. Quando abbiamo modelli che incidono sulla vita delle persone, dobbiamo valutarli con attenzione per individuare qualsiasi comportamento discriminatorio appreso dai dati storici.

In questo esercizio hai un modello che prova a prevedere se qualcuno andrà in default sul proprio prestito. Puoi suddividere le predizioni risultanti in base a diverse caratteristiche, come dati demografici e stato occupazionale. Esplora queste caratteristiche e verifica se noti qualcosa di sospetto su chi viene previsto in default e chi no.

Quali caratteristiche dovrebbero essere indagate più a fondo per potenziale bias prima di mettere in produzione il modello?