Выявление предвзятости в прогнозировании дефолта по кредиту

В видео мы рассмотрели пример ИИ-системы для подбора персонала, которая отдавала предпочтение мужчинам, поскольку обучалась на исторических данных, где мужчин нанимали чаще. Когда модели влияют на жизнь людей, необходимо тщательно проверять их на наличие дискриминационного поведения, которое может быть усвоено из исторических данных.

В этом упражнении у вас есть модель, которая пытается предсказать, допустит ли человек дефолт по кредиту. Вы можете разбить полученные прогнозы по различным признакам: демографическим данным и статусу занятости. Изучите эти признаки и попробуйте найти что-нибудь подозрительное в том, кому предсказывают дефолт, а кому — нет.

Какой признак следует дополнительно проверить на потенциальную предвзятость перед развёртыванием модели?