Bias opsporen in het voorspellen van wanbetaling op leningen

In de video leerden we over recruitmentsoftware met AI die de voorkeur gaf aan mannen, omdat het model leerde van historische data waarin meer mannen waren aangenomen. Als we modellen inzetten die impact hebben op mensenlevens, moeten we ze zorgvuldig beoordelen op discriminerend gedrag dat uit historische data kan zijn overgenomen.

In deze oefening heb je een model dat probeert te voorspellen of iemand in gebreke blijft met zijn lening. Je kunt de voorspellingen uitsplitsen naar verschillende features, zoals demografie en werkstatus. Verken deze features en kijk of je iets verdachts ziet in wie er als wanbetaler wordt voorspeld en wie niet.

Welke feature moet vóór het uitrollen van het model extra onderzocht worden op mogelijke bias?