Identificarea părtinirii în predicția incapacității de plată a creditelor

În video, am aflat despre un software de recrutare bazat pe inteligență artificială care favoriza bărbații, deoarece învățase din date istorice în care mai mulți bărbați fuseseră angajați. Atunci când avem modele care afectează viețile oamenilor, trebuie să le evaluăm cu atenție pentru a depista orice comportament discriminatoriu care poate fi preluat din datele istorice.

În acest exercițiu, ai un model care încearcă să prezică dacă o persoană va intra în incapacitate de plată a creditului. Poți analiza predicțiile rezultate în funcție de diferite caracteristici, precum date demografice și statut de angajare. Explorează aceste caracteristici și vezi dacă observi ceva suspect în legătură cu cine este prezis că va intra în incapacitate de plată și cine nu.

Ce caracteristică ar trebui investigată mai îndeaproape pentru potențială părtinire înainte de a implementa modelul?