Tính entropy của các nút con
Bạn đã hoàn thành bước đầu tiên để đo lường mức độ thông tin mà thuộc tính color mang lại — bạn đã tính mức hỗn loạn (disorder) của nút gốc. Giờ bạn cần đo entropy của các nút con để đánh giá xem tổng mức hỗn loạn của các nút con có nhỏ hơn mức hỗn loạn của nút cha hay không. Nếu có, thì bạn đã thu được thêm thông tin về trạng thái vỡ nợ khoản vay từ thông tin trong color.
Bài tập này là một phần của khóa học
Giảm Chiều Dữ Liệu với R
Hướng dẫn bài tập
- Tính xác suất lớp cho phía chia bên trái (màu xanh dương).
- Tính entropy của phía chia bên trái bằng các xác suất lớp.
- Tính xác suất lớp cho phía chia bên phải (màu xanh lá).
- Tính entropy của phía chia bên phải bằng các xác suất lớp.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
# Calculate the class probabilities in the left split
p_left_yes <- ___
p_left_no <- ___
# Calculate the entropy of the left split
entropy_left <- -(___ * ___(___)) +
-(___ * ___(___))
# Calculate the class probabilities in the right split
p_right_yes <- ___
p_right_no <- ___
# Calculate the entropy of the right split
entropy_right <- -(___ * ___(___)) +
-(___ * ___(___))