Calcolare il guadagno di informazione del colore
Ora che conosci le entropie del nodo radice e dei nodi figli, puoi calcolare il guadagno di informazione fornito dal colore.
Negli esercizi precedenti hai calcolato entropy_root, entropy_left e entropy_right. Sono disponibili nella console.
Ricorda che devi calcolare la media ponderata delle entropie dei nodi figli. Quindi dovrai calcolare quale proporzione delle osservazioni originali è finita a sinistra e a destra dello split. Salvale rispettivamente in p_left e p_right.
Questo esercizio fa parte del corso
Riduzione della dimensionalità in R
Istruzioni dell'esercizio
- Calcola i pesi dello split, cioè la proporzione di osservazioni su ciascun lato dello split.
- Calcola il guadagno di informazione usando i pesi e le entropie.
Esercizio pratico interattivo
Prova a risolvere questo esercizio completando il codice di esempio.
# Calculate the split weights
p_left <- ___/12
p_right <- ___/___
# Calculate the information gain
info_gain <- ___ -
(___ * entropy_left +
p_right * ___)
info_gain