Вычисление энтропии корневого узла
Это упражнение продолжает пример с невозвратом кредита из слайдов. На изображении показан корневой узел дерева решений, разбитого по цвету. В следующих трёх упражнениях вы вычислите энтропию корневого узла, энтропию дочерних узлов и определите прирост информации, который признак цвета даёт для предсказания статуса невозврата кредита.
В этом упражнении необходимо вычислить энтропию корневого узла данного дерева решений.
Это упражнение является частью курса
Снижение размерности в R
Инструкции к упражнению
- Вычислите вероятности классов «yes» и «no» для корневого узла применительно к невозврату кредита.
- Используйте полученные вероятности для вычисления энтропии корневого узла.
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
# Calculate the class probabilities
p_yes <- ___
p_no <- ___
# Calculate the entropy
entropy_root <- -(___ * log2(p_yes)) +
-(___ * ___(___))
entropy_root