開始使用免費開始

計算子節點的熵

你已完成衡量顏色所提供資訊增益的第一步——你已計算根節點的混亂程度。現在你需要量測子節點的熵,才能判斷子節點的整體混亂程度是否小於父節點的混亂程度。若是如此,代表你已從顏色這個特徵中獲得關於貸款違約狀態的一些資訊。

decison tree split by color

本練習屬於課程

R 的降維

檢視課程

練習說明

  • 計算左側分割(藍色一側)的類別機率。
  • 使用這些類別機率計算左側分割的熵。
  • 計算右側分割(綠色一側)的類別機率。
  • 使用這些類別機率計算右側分割的熵。

動手互動練習

試著完成這個範例程式碼,體驗一下這個練習。

# Calculate the class probabilities in the left split
p_left_yes <- ___
p_left_no <- ___

# Calculate the entropy of the left split
entropy_left <- -(___ * ___(___)) +
  -(___ * ___(___))

# Calculate the class probabilities in the right split
p_right_yes <- ___
p_right_no <- ___

# Calculate the entropy of the right split
entropy_right <- -(___ * ___(___)) +
  -(___ * ___(___))
編輯並執行程式碼