Voreingenommenheit bei der Vorhersage von Kreditausfällen erkennen

Im Video haben wir eine KI-gestützte Rekrutierungssoftware kennengelernt, die Männer bevorzugte, weil sie aus historischen Daten gelernt hatte, in denen mehr Männer eingestellt wurden. Wenn wir Modelle einsetzen, die das Leben von Menschen beeinflussen, müssen wir sie sorgfältig auf diskriminierendes Verhalten prüfen, das aus historischen Daten gelernt werden kann.

In dieser Übung hast du ein Modell, das vorhersagen soll, ob jemand mit seinem Kredit in Verzug geraten wird. Du kannst die resultierenden Vorhersagen nach verschiedenen Merkmalen wie Demografie und Beschäftigungsstatus aufschlüsseln. Untersuche diese Merkmale und schau, ob dir etwas Verdächtiges auffällt, wer voraussichtlich säumig wird und wer nicht.

Welches Merkmal sollte vor der Bereitstellung des Modells genauer auf potenzielle Voreingenommenheit untersucht werden?