Obliczanie entropii węzłów potomnych
Pierwszy krok pomiaru zysku informacyjnego, jaki daje kolor, masz już za sobą — obliczyłeś/obliczyłaś nieporządek węzła głównego. Teraz musisz zmierzyć entropię węzłów potomnych, aby sprawdzić, czy ich łączny nieporządek jest mniejszy niż nieporządek węzła nadrzędnego. Jeśli tak jest, to kolor dostarcza nam informacji o statusie niespłacenia kredytu.
To ćwiczenie jest częścią kursu
Redukcja wymiarowości w R
Instrukcje do ćwiczenia
- Oblicz prawdopodobieństwa klas dla lewego podziału (strona niebieska).
- Oblicz entropię lewego podziału, korzystając z obliczonych prawdopodobieństw klas.
- Oblicz prawdopodobieństwa klas dla prawego podziału (strona zielona).
- Oblicz entropię prawego podziału, korzystając z obliczonych prawdopodobieństw klas.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
# Calculate the class probabilities in the left split
p_left_yes <- ___
p_left_no <- ___
# Calculate the entropy of the left split
entropy_left <- -(___ * ___(___)) +
-(___ * ___(___))
# Calculate the class probabilities in the right split
p_right_yes <- ___
p_right_no <- ___
# Calculate the entropy of the right split
entropy_right <- -(___ * ___(___)) +
-(___ * ___(___))