Výpočet informačního zisku barvy
Teď, když znáš entropie kořenového i podřízených uzlů, můžeš vypočítat informační zisk, který barva přináší.
V předchozích cvičeních jsi vypočítal/a entropy_root, entropy_left a entropy_right. Tyto hodnoty jsou dostupné v konzoli.
Nezapomeň, že budeš počítat vážený průměr entropií podřízených uzlů. Proto musíš zjistit, jaký podíl původních pozorování skončil na levé a pravé straně rozdělení. Ulož tyto hodnoty do proměnných p_left a p_right.
Toto cvičení je součástí kurzu
Redukce dimenzionality v R
Pokyny k cvičení
- Vypočítej váhy rozdělení — tedy podíl pozorování na každé straně rozdělení.
- Vypočítej informační zisk pomocí vah a entropií.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
# Calculate the split weights
p_left <- ___/12
p_right <- ___/___
# Calculate the information gain
info_gain <- ___ -
(___ * entropy_left +
p_right * ___)
info_gain