Tính độ lợi thông tin của thuộc tính màu sắc
Giờ bạn đã biết entropy của nút gốc và các nút con, hãy tính độ lợi thông tin (information gain) mà thuộc tính màu sắc mang lại.
Ở các bài trước, bạn đã tính entropy_root, entropy_left và entropy_right. Chúng có sẵn trong bảng điều khiển.
Hãy nhớ rằng bạn sẽ lấy trung bình có trọng số của entropy các nút con. Vì vậy, bạn cần tính tỷ lệ quan sát ban đầu rơi vào phía trái và phía phải của phép tách. Lưu các giá trị đó lần lượt vào p_left và p_right.
Bài tập này là một phần của khóa học
Giảm Chiều Dữ Liệu với R
Hướng dẫn bài tập
- Tính trọng số của phép tách — tức tỷ lệ quan sát ở mỗi phía của phép tách.
- Tính độ lợi thông tin bằng cách dùng các trọng số và các giá trị entropy.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
# Calculate the split weights
p_left <- ___/12
p_right <- ___/___
# Calculate the information gain
info_gain <- ___ -
(___ * entropy_left +
p_right * ___)
info_gain