Model gradient boosting
Sekarang kita akan melatih model gradient boosting (GB). Ada yang mengatakan model linear itu seperti Toyota Camry, sedangkan GB seperti helikopter Black Hawk. GB berpotensi mengungguli random forest, tetapi tidak selalu demikian. Ini disebut no free lunch theorem, yang berarti kita sebaiknya selalu mencoba banyak model berbeda untuk setiap masalah.
GB mirip dengan model random forest, tetapi perbedaannya adalah pohon dibangun secara berurutan. Pada setiap iterasi, pohon berikutnya menyesuaikan error residual dari pohon sebelumnya untuk memperbaiki kecocokan.
Untuk saat ini kita tidak akan mencari hyperparameter — parameter tersebut sudah dicari untuk Anda.
Latihan ini merupakan bagian dari kursus
Machine Learning untuk Keuangan dengan Python
Instruksi latihan
- Buat objek
GradientBoostingRegressordengan hyperparameter yang sudah ditetapkan untuk Anda. - Latih model
gbrpadatrain_featuresdantrain_targets. - Cetak skor untuk fitur dan target data latih dan uji.
Latihan interaktif langsung praktik
Cobalah latihan ini dengan melengkapi kode contoh ini.
from sklearn.ensemble import GradientBoostingRegressor
# Create GB model -- hyperparameters have already been searched for you
gbr = ____(max_features=4,
learning_rate=0.01,
n_estimators=200,
subsample=0.6,
random_state=42)
gbr.fit(____)
print(gbr.score(train_features, train_targets))
____