Menghitung entropi akar
Latihan ini melanjutkan contoh gagal bayar pinjaman dari slide. Gambar menunjukkan node akar pohon keputusan yang dipecah berdasarkan warna. Dalam tiga latihan berikut, Anda akan menghitung entropi node akar, menghitung entropi node anak, dan menentukan information gain yang diberikan oleh warna untuk menentukan status gagal bayar pinjaman.
Pada latihan ini, tugas Anda adalah menghitung entropi node akar pada pohon keputusan ini.
Latihan ini adalah bagian dari kursus
Reduksi Dimensi di R
Petunjuk latihan
- Hitung probabilitas kelas "yes" dan "no" pada node akar untuk gagal bayar pinjaman.
- Gunakan probabilitas kelas tersebut untuk menghitung entropi node akar.
Latihan interaktif praktis
Cobalah latihan ini dengan menyelesaikan kode contoh berikut.
# Calculate the class probabilities
p_yes <- ___
p_no <- ___
# Calculate the entropy
entropy_root <- -(___ * log2(p_yes)) +
-(___ * ___(___))
entropy_root