Beräkna entropin för barnnoderna
Du har slutfört det första steget för att mäta informationsvinsten som färg ger – du beräknade oordningen i rotnoden. Nu behöver du mäta entropin i barnnoderna för att kunna avgöra om deras samlade oordning är lägre än föräldranoderns. Om så är fallet har du fått information om lånestatus för fallissemang utifrån färginformationen.
Den här övningen är en del av kursen
Dimensionsreduktion i R
Övningsinstruktioner
- Beräkna klassprobabiliteterna för den vänstra uppdelningen (blå sida).
- Beräkna entropin för den vänstra uppdelningen med hjälp av klassprobabiliteterna.
- Beräkna klassprobabiliteterna för den högra uppdelningen (grön sida).
- Beräkna entropin för den högra uppdelningen med hjälp av klassprobabiliteterna.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
# Calculate the class probabilities in the left split
p_left_yes <- ___
p_left_no <- ___
# Calculate the entropy of the left split
entropy_left <- -(___ * ___(___)) +
-(___ * ___(___))
# Calculate the class probabilities in the right split
p_right_yes <- ___
p_right_no <- ___
# Calculate the entropy of the right split
entropy_right <- -(___ * ___(___)) +
-(___ * ___(___))