Odhalování zaujatosti při předpovědi nesplácení úvěru

Ve videu jsme se dozvěděli o náborové aplikaci s podporou AI, která upřednostňovala muže, protože se učila z historických dat z doby, kdy bylo přijímáno více mužů. Pokud modely ovlivňují životy lidí, musíme je pečlivě prověřovat, zda se z historických dat nenaučily diskriminační chování.

V tomto cvičení máš k dispozici model, který se pokouší předpovědět, jestli někdo nesplatí svůj úvěr. Výsledné předpovědi si můžeš rozdělit podle různých příznaků, jako jsou demografické údaje nebo pracovní zařazení. Prozkoumej tyto příznaky a zkus zjistit, jestli na něčem není něco podezřelého – kdo je předpovídán jako nespolehlivý plátce a kdo ne.

Který příznak by měl být před nasazením modelu podrobněji prověřen z hlediska možné zaujatosti?