Vooroordelen opsporen in voorspellingen van wanbetaling op leningen
In de video leerden we over een AI-recruitmenttool die mannen bevoordeelde omdat het model was getraind op historische gegevens waarin meer mannen werden aangenomen. Als modellen invloed hebben op het leven van mensen, moeten we ze zorgvuldig beoordelen op mogelijk discriminerend gedrag dat uit historische data kan zijn overgenomen.
In deze oefening heb je een model dat probeert te voorspellen of iemand zijn lening niet terugbetaalt. Je kunt de voorspellingen uitsplitsen naar verschillende features zoals demografie en dienstverband. Verken deze features en kijk of je iets verdachts ziet in wie er wordt voorspeld te zullen wanbetalen en wie niet.
Welke feature moet vóór implementatie verder worden onderzocht op mogelijke bias?
Deze oefening maakt deel uit van de cursus
Inzicht in Machine Learning
Interactieve oefening met praktijkervaring
Zet theorie om in actie met een van onze interactieve oefeningen
Begin oefening