Виявлення упередженості в прогнозуванні дефолту за кредитом

У відео ми розглянули приклад рекрутингового ПЗ з елементами ШІ, яке віддавало перевагу чоловікам, бо навчалося на історичних даних, де чоловіків наймали частіше. Коли моделі впливають на життя людей, їх потрібно уважно перевіряти на будь-яку дискримінаційну поведінку, що могла бути засвоєна з історичних даних.

У цій вправі у вас є модель, що намагається передбачити, чи допустить людина прострочення за своїм кредитом. Ви можете розбити отримані прогнози за різними ознаками, як-от демографія та зайнятість. Дослідіть ці ознаки й подивіться, чи помітите щось підозріле в тому, кому прогнозують дефолт, а кому — ні.

Яку ознаку слід дослідити ретельніше на предмет потенційної упередженості, перш ніж розгортати модель?