Mengidentifikasi bias dalam prediksi gagal bayar pinjaman

Dalam video, kita mempelajari perangkat lunak rekrutmen berbasis AI yang lebih menyukai pria karena belajar dari data historis ketika lebih banyak pria yang direkrut. Ketika kita memiliki model yang memengaruhi kehidupan orang, kita perlu mengevaluasinya dengan cermat untuk setiap perilaku diskriminatif yang bisa dipelajari dari data historis.

Dalam latihan ini, Anda memiliki sebuah model yang mencoba memprediksi apakah seseorang akan gagal bayar pinjamannya. Anda dapat menguraikan prediksi yang dihasilkan berdasarkan berbagai fitur seperti demografi dan status pekerjaan. Jelajahi fitur-fitur ini dan lihat apakah Anda dapat menemukan hal yang mencurigakan tentang siapa yang diprediksi akan gagal bayar dan siapa yang tidak.

Fitur mana yang harus diselidiki lebih lanjut terkait potensi bias sebelum model diterapkan?