計算根節點的熵
本練習延續投影片中的貸款違約範例。圖片顯示一棵以顏色分割的決策樹根節點。接下來三個練習中，你會依序計算根節點的熵、子節點的熵，並判斷「顏色」在判定是否違約上的資訊增益。
在這個練習中，你的任務是計算此決策樹中根節點的熵。
本練習屬於課程
R 的降維
練習說明
- 計算在根節點中，貸款是否違約之「yes」與「no」兩個類別的機率。
- 使用這兩個類別的機率來計算根節點的熵。
動手互動練習
試著完成這個範例程式碼，體驗一下這個練習。
# Calculate the class probabilities
p_yes <- ___
p_no <- ___
# Calculate the entropy
entropy_root <- -(___ * log2(p_yes)) +
-(___ * ___(___))
entropy_root