Calcularea entropiilor nodurilor copil

Ai finalizat primul pas pentru măsurarea câștigului de informație oferit de culoare — ai calculat dezordinea nodului rădăcină. Acum trebuie să măsori entropia nodurilor copil, pentru a evalua dacă dezordinea lor colectivă este mai mică decât dezordinea nodului părinte. Dacă este, înseamnă că ai obținut informații despre statusul de nerambursare a împrumutului pe baza culorii.

decison tree split by color

Acest exercițiu face parte din cursul

Reducerea dimensionalității în R

Vezi cursul

Instrucțiuni pentru exercițiu

Calculează probabilitățile de clasă pentru ramura stângă (partea albastră).
Calculează entropia ramurii stângi folosind probabilitățile de clasă.
Calculează probabilitățile de clasă pentru ramura dreaptă (partea verde).
Calculează entropia ramurii drepte folosind probabilitățile de clasă.

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

# Calculate the class probabilities in the left split
p_left_yes <- ___
p_left_no <- ___

# Calculate the entropy of the left split
entropy_left <- -(___ * ___(___)) +
  -(___ * ___(___))

# Calculate the class probabilities in the right split
p_right_yes <- ___
p_right_no <- ___

# Calculate the entropy of the right split
entropy_right <- -(___ * ___(___)) +
  -(___ * ___(___))

Editează și rulează codul