Gradient Boosting Ensemble
Boosting เป็นเทคนิคที่ส่งต่อค่าความผิดพลาดของตัวทำนายหนึ่งไปยังตัวถัดไปแบบลำดับขั้น Gradient Boosting ใช้กระบวนการ gradient descent เพื่อลด log loss สำหรับ classification tree แต่ละต้นที่เพิ่มเข้ามาทีละต้น ซึ่งแต่ละต้นเป็นโมเดลการตัดสินใจที่อ่อนแอโดยลำพัง สำหรับการถดถอย Gradient Boosting ใช้แนวทางคล้ายกัน แต่ใช้ฟังก์ชันสูญเสีย เช่น mean squared error ร่วมกับ gradient descent
ในแบบฝึกหัดนี้ จะสร้างโมเดล Gradient Boosting Classifier และเปรียบเทียบประสิทธิภาพกับ Random Forest จากแบบฝึกหัดก่อนหน้า ซึ่งมีคะแนนความแม่นยำอยู่ที่ 72.5%
DataFrame loan_data ถูกแบ่งไว้แล้วและพร้อมใช้งานในเวิร์กสเปซในรูปแบบ X_train, X_test, y_train และ y_test
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
ฝึกตอบคำถามสัมภาษณ์ Machine Learning ด้วย Python
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ
ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์
# Import
from sklearn.____ import ____
from sklearn.____ import ____, ____, ____, ____, ____
# Instantiate
gb_model = ____(____=____, learning_rate=___,random_state=123)