Tính entropy của nút gốc
Bài tập này tiếp tục ví dụ vỡ nợ khoản vay từ các slide. Hình ảnh hiển thị nút gốc của một cây quyết định được chia theo màu. Trong ba bài tập tiếp theo, bạn sẽ tính entropy của nút gốc, tính entropy của các nút con, và xác định mức độ thu thập thông tin (information gain) mà thuộc tính màu sắc mang lại để xác định trạng thái vỡ nợ khoản vay.
Trong bài này, nhiệm vụ của bạn là tính entropy của nút gốc trong cây quyết định này.
Bài tập này là một phần của khóa học
Giảm Chiều Dữ Liệu với R
Hướng dẫn bài tập
- Tính xác suất lớp của hai lớp "yes" và "no" tại nút gốc cho việc vỡ nợ khoản vay.
- Dùng các xác suất lớp đó để tính entropy của nút gốc.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
# Calculate the class probabilities
p_yes <- ___
p_no <- ___
# Calculate the entropy
entropy_root <- -(___ * log2(p_yes)) +
-(___ * ___(___))
entropy_root