Beräkna informationsvinst för färg
Nu när du känner till entropierna för rot- och childnoderna kan du beräkna den informationsvinst som färg ger.
I tidigare övningar beräknade du entropy_root, entropy_left och entropy_right. De finns tillgängliga i konsolen.
Kom ihåg att du ska ta det viktade medelvärdet av childnodernas entropier. Du behöver därför beräkna hur stor andel av de ursprungliga observationerna som hamnade på vänster respektive höger sida av delningen. Lagra dessa i p_left respektive p_right.
Den här övningen är en del av kursen
Dimensionsreduktion i R
Övningsinstruktioner
- Beräkna delningsvikterna – det vill säga andelen observationer på vardera sidan av delningen.
- Beräkna informationsvinsten med hjälp av vikterna och entropierna.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
# Calculate the split weights
p_left <- ___/12
p_right <- ___/___
# Calculate the information gain
info_gain <- ___ -
(___ * entropy_left +
p_right * ___)
info_gain