Entropie van de wortel berekenen
Deze oefening gaat verder met het voorbeeld van wanbetaling op leningen uit de dia's. De afbeelding toont de wortelknoop van een beslisboom gesplitst op kleur. In de komende drie oefeningen bereken je de entropie van de wortelknoop, bereken je de entropie van de kindknopen en bepaal je de information gain die kleur oplevert voor het bepalen van de status van wanbetaling op leningen.
In deze oefening is het de bedoeling de entropie van de wortelknoop in deze beslisboom te berekenen.
Deze oefening maakt deel uit van de cursus
Dimensionality Reduction in R
Oefeninstructies
- Bereken de klasskansen van de klassen "yes" en "no" in de wortelknoop voor wanbetaling op een lening.
- Gebruik de klasskansen om de entropie van de wortelknoop te berekenen.
Praktische interactieve oefening
Probeer deze oefening eens door deze voorbeeldcode in te vullen.
# Calculate the class probabilities
p_yes <- ___
p_no <- ___
# Calculate the entropy
entropy_root <- -(___ * log2(p_yes)) +
-(___ * ___(___))
entropy_root