Bir gradient boosting modeli
Şimdi bir gradient boosting (GB) modeli eğiteceğiz. Söylendiğine göre doğrusal bir model Toyota Camry gibidir, GB ise Black Hawk helikopteri gibi. GB, random forest'lardan daha iyi performans gösterme potansiyeline sahiptir ama her zaman böyle olmaz. Bu duruma no free lunch teoremi denir; yani her problem için birden fazla farklı modeli mutlaka denemeliyiz.
GB, random forest modellere benzer, ancak farkı ağaçların art arda inşa edilmesidir. Her yinelemede, bir sonraki ağaç uyumu iyileştirmek için bir önceki ağacın artık hatalarına uyar.
Şimdilik hiperparametre araması yapmayacağız — senin için zaten ayarlandı.
Bu egzersiz, kursun bir parçasıdır
Python ile Finans için Machine Learning
Egzersiz talimatları
- Hiperparametreleri önceden ayarlanmış bir
GradientBoostingRegressornesnesi oluştur. gbrmodelinitrain_featuresvetrain_targetsile eğit (fit).- Eğitim ve test özellikleri ile hedefleri için skorları yazdır.
Uygulamalı etkileşimli egzersiz
Bu egzersizi bu örnek kodu tamamlayarak deneyin.
from sklearn.ensemble import GradientBoostingRegressor
# Create GB model -- hyperparameters have already been searched for you
gbr = ____(max_features=4,
learning_rate=0.01,
n_estimators=200,
subsample=0.6,
random_state=42)
gbr.fit(____)
print(gbr.score(train_features, train_targets))
____