Mengidentifikasi bias dalam machine learning

Dalam video, kita mempelajari tentang perangkat lunak rekrutmen berkemampuan AI yang lebih menyukai laki-laki karena belajar dari data historis saat lebih banyak laki-laki yang direkrut. Ketika kita memiliki model yang memengaruhi kehidupan orang, kita perlu mengevaluasinya dengan cermat untuk setiap perilaku diskriminatif yang dapat dipelajari dari data historis.

Dalam latihan ini, Anda memiliki sebuah model yang mencoba memprediksi apakah seseorang akan gagal bayar atas pinjamannya. Anda dapat menguraikan prediksi yang dihasilkan berdasarkan berbagai fitur seperti demografi dan status pekerjaan. Cobalah bermain-main dengan fitur-fitur ini dan lihat apakah Anda dapat menemukan hal yang mencurigakan tentang siapa yang diprediksi akan gagal bayar dan siapa yang tidak.

Fitur mana yang sebaiknya diselidiki lebih lanjut terkait potensi bias sebelum menerapkan model?