Calcul de l’entropie de la racine
Cet exercice reprend l’exemple de défaut de paiement présenté dans le diaporama. L’image montre le nœud racine d’un arbre de décision scindé par couleur. Dans les trois prochains exercices, vous allez calculer l’entropie du nœud racine, calculer l’entropie des nœuds enfants, puis déterminer le gain d’information apporté par la couleur pour prédire le défaut de paiement d’un prêt.
Dans cet exercice, votre tâche est de calculer l’entropie du nœud racine de cet arbre de décision.
Cet exercice fait partie du cours
<cours>Réduction de dimension en R</cours>Instructions de l’exercice
- Calculez les probabilités des classes « yes » et « no » dans le nœud racine pour le défaut de paiement d’un prêt.
- Utilisez ces probabilités de classe pour calculer l’entropie du nœud racine.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
# Calculate the class probabilities
p_yes <- ___
p_no <- ___
# Calculate the entropy
entropy_root <- -(___ * log2(p_yes)) +
-(___ * ___(___))
entropy_root