Obliczanie entropii węzła głównego
To ćwiczenie nawiązuje do przykładu z niewywiązaniem się ze spłaty kredytu, który pojawił się na slajdach. Na obrazku widać węzeł główny drzewa decyzyjnego podzielonego według koloru. W kolejnych trzech ćwiczeniach obliczysz entropię węzła głównego, entropię węzłów potomnych oraz wyznaczysz przyrost informacji, jaki daje podział według koloru przy określaniu statusu niewywiązania się ze spłaty kredytu.
W tym ćwiczeniu zadanie polega na obliczeniu entropii węzła głównego w tym drzewie decyzyjnym.
To ćwiczenie jest częścią kursu
Redukcja wymiarowości w R
Instrukcje do ćwiczenia
- Oblicz prawdopodobieństwa klas "tak" i "nie" w węźle głównym dla niewywiązania się ze spłaty kredytu.
- Użyj obliczonych prawdopodobieństw do wyznaczenia entropii węzła głównego.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
# Calculate the class probabilities
p_yes <- ___
p_no <- ___
# Calculate the entropy
entropy_root <- -(___ * log2(p_yes)) +
-(___ * ___(___))
entropy_root