Identificando vieses no aprendizado de máquina

No vídeo, aprendemos sobre um software de recrutamento habilitado para IA que preferia homens porque aprendeu com dados históricos quando mais homens eram contratados. Quando temos modelos que afetam a vida das pessoas, precisamos avaliá-los cuidadosamente quanto a qualquer comportamento discriminatório que possa ser aprendido com dados históricos.

Neste exercício, você tem um modelo que tenta prever se alguém ficará inadimplente com seu empréstimo. Você pode dividir as previsões resultantes por diferentes recursos, como dados demográficos e status de emprego. Brinque com esses recursos e veja se você consegue encontrar algo suspeito sobre quem tem previsão de inadimplência e quem não tem.

Qual(is) recurso(s) deve(m) ser mais investigado(s) quanto à possível tendência antes de implementar o modelo?