Ensemble gradient boosting
Boosting adalah teknik di mana galat dari satu prediktor diteruskan sebagai masukan ke prediktor berikutnya secara berurutan. Gradient Boosting menggunakan prosedur gradient descent untuk meminimalkan log loss pada setiap pohon klasifikasi yang ditambahkan satu per satu, yang masing-masing merupakan model keputusan yang lemah. Gradient Boosting untuk regresi serupa, tetapi menggunakan fungsi loss seperti mean squared error yang diterapkan pada gradient descent.
Dalam latihan ini, Anda akan membuat model Gradient Boosting Classifier dan membandingkan kinerjanya dengan Random Forest dari latihan sebelumnya, yang memiliki skor akurasi 72,5%.
DataFrame loan_data sudah dipisahkan dan tersedia di workspace Anda sebagai X_train, X_test, y_train, dan y_test.
Latihan ini merupakan bagian dari kursus
Berlatih Pertanyaan Wawancara Machine Learning dengan Python
Latihan interaktif langsung praktik
Cobalah latihan ini dengan melengkapi kode contoh ini.
# Import
from sklearn.____ import ____
from sklearn.____ import ____, ____, ____, ____, ____
# Instantiate
gb_model = ____(____=____, learning_rate=___,random_state=123)