Vooringenomenheid opsporen in machine learning

In de video leerden we over een AI-gestuurde wervingssoftware die mannen verkoos omdat die leerde van historische gegevens waarin meer mannen werden aangenomen. Als we modellen hebben die impact hebben op iemands leven, moeten we ze zorgvuldig beoordelen op discriminerend gedrag dat uit historische gegevens kan worden overgenomen.

In deze oefening heb je een model dat probeert te voorspellen of iemand in gebreke blijft op zijn of haar lening. Je kunt de resulterende voorspellingen uitsplitsen naar verschillende features, zoals demografie en arbeidsstatus. Speel met deze features en kijk of je iets verdachts kunt ontdekken over wie er wel en niet als wanbetaler wordt voorspeld.

Welke feature(s) moeten voor mogelijke bias verder worden onderzocht voordat je het model uitrolt?