Calcularea câștigului informațional al culorii
Acum că știi entropiile nodului rădăcină și ale nodurilor copil, poți calcula câștigul informațional oferit de culoare.
În exercițiile anterioare, ai calculat entropy_root, entropy_left și entropy_right. Acestea sunt disponibile în consolă.
Reține că vei folosi media ponderată a entropiilor nodurilor copil. Prin urmare, va trebui să calculezi ce proporție din observațiile inițiale a ajuns în partea stângă, respectiv dreaptă a diviziunii. Stochează aceste valori în p_left și, respectiv, p_right.
Acest exercițiu face parte din cursul
Reducerea dimensionalității în R
Instrucțiuni pentru exercițiu
- Calculează ponderile diviziunii — adică proporția observațiilor din fiecare parte a diviziunii.
- Calculează câștigul informațional folosind ponderile și entropiile.
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
# Calculate the split weights
p_left <- ___/12
p_right <- ___/___
# Calculate the information gain
info_gain <- ___ -
(___ * entropy_left +
p_right * ___)
info_gain