Renge göre bilgi kazancını hesaplama
Artık kök ve çocuk düğümlerin entropilerini bildiğine göre, rengin sağladığı bilgi kazancını hesaplayabilirsin.
Önceki egzersizlerde entropy_root, entropy_left ve entropy_right hesapladın. Bunlar konsolda hazır.
Unutma, çocuk düğümlerin entropilerinin ağırlıklı ortalamasını alacaksın. Bu yüzden, ilk gözlemlerin hangi oranda bölmenin solunda ve sağında kaldığını hesaplaman gerekiyor. Bunları sırasıyla p_left ve p_right içinde sakla.
Bu egzersiz
R'de Boyutsal Azaltma
kursunun bir parçasıdırEgzersiz talimatları
- Bölme ağırlıklarını hesapla — yani, bölmenin her iki tarafındaki gözlem oranını.
- Ağırlıkları ve entropileri kullanarak bilgi kazancını hesapla.
Uygulamalı interaktif egzersiz
Bu örnek kodu tamamlayarak bu egzersizi bitirin.
# Calculate the split weights
p_left <- ___/12
p_right <- ___/___
# Calculate the information gain
info_gain <- ___ -
(___ * entropy_left +
p_right * ___)
info_gain