Mulai sekarangMulai gratis

Model gradient boosting

Sekarang kita akan melatih model gradient boosting (GB). Ada yang mengatakan model linear itu seperti Toyota Camry, sedangkan GB seperti helikopter Black Hawk. GB berpotensi mengungguli random forest, tetapi tidak selalu demikian. Ini disebut no free lunch theorem, yang berarti kita sebaiknya selalu mencoba banyak model berbeda untuk setiap masalah.

GB mirip dengan model random forest, tetapi perbedaannya adalah pohon dibangun secara berurutan. Pada setiap iterasi, pohon berikutnya menyesuaikan error residual dari pohon sebelumnya untuk memperbaiki kecocokan.

Untuk saat ini kita tidak akan mencari hyperparameter — parameter tersebut sudah dicari untuk Anda.

Latihan ini merupakan bagian dari kursus

Machine Learning untuk Keuangan dengan Python

Lihat Kursus

Instruksi latihan

  • Buat objek GradientBoostingRegressor dengan hyperparameter yang sudah ditetapkan untuk Anda.
  • Latih model gbr pada train_features dan train_targets.
  • Cetak skor untuk fitur dan target data latih dan uji.

Latihan interaktif langsung praktik

Cobalah latihan ini dengan melengkapi kode contoh ini.

from sklearn.ensemble import GradientBoostingRegressor

# Create GB model -- hyperparameters have already been searched for you
gbr = ____(max_features=4,
                                learning_rate=0.01,
                                n_estimators=200,
                                subsample=0.6,
                                random_state=42)
gbr.fit(____)

print(gbr.score(train_features, train_targets))
____
Edit dan Jalankan Kode