ดึงประสิทธิภาพสูงสุดจาก AdaBoost
จากที่เห็นมา AdaBoost ให้ผลลัพธ์ที่ดีที่สุดในการพยากรณ์รายได้ของภาพยนตร์เมื่อใช้ decision tree เป็น base estimator
ในแบบฝึกหัดนี้ จะมีการกำหนดพารามิเตอร์บางอย่างเพื่อดึงประสิทธิภาพออกมาให้มากยิ่งขึ้น โดยเฉพาะอย่างยิ่ง จะใช้ learning rate ที่ต่ำลงเพื่อให้การอัปเดต hyperparameter เป็นไปอย่างราบรื่นขึ้น ดังนั้นจำนวน estimator จึงควรเพิ่มขึ้นด้วย นอกจากนี้ ยังได้เพิ่มฟีเจอร์ต่อไปนี้เข้าไปในข้อมูลด้วย ได้แก่ 'runtime', 'vote_average' และ 'vote_count'
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
Ensemble Methods ใน Python
คำแนะนำการฝึกหัด
- สร้าง
AdaBoostRegressorโดยใช้100estimators และ learning rate เท่ากับ0.01 - Fit
reg_adaกับชุดข้อมูลฝึก แล้วคำนวณค่าพยากรณ์บนชุดข้อมูลทดสอบ
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ
ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์
# Build and fit an AdaBoost regressor
reg_ada = ____(____, ____, random_state=500)
reg_ada.fit(X_train, y_train)
# Calculate the predictions on the test set
pred = ____
# Evaluate the performance using the RMSE
rmse = np.sqrt(mean_squared_error(y_test, pred))
print('RMSE: {:.3f}'.format(rmse))