Menghitung entropi anak
Anda telah menyelesaikan langkah pertama untuk mengukur information gain yang diberikan oleh warna — Anda menghitung ketidakteraturan pada node akar. Sekarang Anda perlu mengukur entropi pada node anak agar dapat menilai apakah ketidakteraturan kolektif pada node anak lebih kecil daripada ketidakteraturan pada node induk. Jika ya, berarti Anda memperoleh sebagian informasi tentang status gagal bayar pinjaman dari informasi yang terdapat pada warna.
Latihan ini adalah bagian dari kursus
Reduksi Dimensi di R
Petunjuk latihan
- Hitung probabilitas kelas untuk pemisahan kiri (sisi biru).
- Hitung entropi pemisahan kiri menggunakan probabilitas kelas.
- Hitung probabilitas kelas untuk pemisahan kanan (sisi hijau).
- Hitung entropi pemisahan kanan menggunakan probabilitas kelas.
Latihan interaktif praktis
Cobalah latihan ini dengan menyelesaikan kode contoh berikut.
# Calculate the class probabilities in the left split
p_left_yes <- ___
p_left_no <- ___
# Calculate the entropy of the left split
entropy_left <- -(___ * ___(___)) +
-(___ * ___(___))
# Calculate the class probabilities in the right split
p_right_yes <- ___
p_right_no <- ___
# Calculate the entropy of the right split
entropy_right <- -(___ * ___(___)) +
-(___ * ___(___))