计算根节点熵
本练习延续幻灯片中的贷款违约示例。图片展示了一棵按颜色划分的决策树的根节点。在接下来的三个练习中，您将依次计算根节点的熵、子节点的熵，并确定"颜色"这一特征在判断贷款是否违约时所带来的信息增益。
在本练习中，您的任务是计算该决策树根节点的熵。
本练习是课程的一部分
R 中的降维
练习说明
- 计算根节点中贷款"违约"类别 "yes" 与"不违约"类别 "no" 的类别概率。
- 使用这些类别概率计算根节点的熵。
交互式实操练习
通过完成这段示例代码来试试这个练习。
# Calculate the class probabilities
p_yes <- ___
p_no <- ___
# Calculate the entropy
entropy_root <- -(___ * log2(p_yes)) +
-(___ * ___(___))
entropy_root