AdaBoost โมเดลแรกของคุณ
ในบทเรียนก่อนหน้า เราได้สร้างโมเดลเพื่อพยากรณ์ log-revenue ของภาพยนตร์ โดยเริ่มจาก linear regression แบบง่าย ซึ่งได้ค่า RMSE อยู่ที่ 7.34 จากนั้นลองปรับปรุงด้วยการ boosting หนึ่งรอบ และได้ค่า RMSE ลดลงเหลือ 7.28
ในแบบฝึกหัดนี้ จะได้สร้าง AdaBoost โมเดลแรก ซึ่งก็คือ AdaBoostRegressor เพื่อพยายามเพิ่มประสิทธิภาพให้ดียิ่งขึ้นไปอีก
ชุดข้อมูล movies ถูกโหลดและแบ่งออกเป็นชุด train และ test เรียบร้อยแล้ว โดยจะใช้ฟีเจอร์ 'budget' และ 'popularity' ซึ่งได้ทำการ standardize ด้วย StandardScaler() จากโมดูล sklearn.preprocessing ไว้ให้แล้ว
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
Ensemble Methods ใน Python
คำแนะนำการฝึกหัด
- สร้างอินสแตนซ์ของ linear regression โมเดลแบบค่าเริ่มต้น
- สร้างและ fit
AdaBoostRegressorโดยใช้ linear regression เป็นโมเดลพื้นฐาน และกำหนดจำนวน estimator เป็น12 - คำนวณค่าพยากรณ์บนชุดข้อมูล test
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ
ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์
# Instantiate the default linear regression model
reg_lm = ____
# Build and fit an AdaBoost regressor
reg_ada = ____(____, ____, random_state=500)
reg_ada.fit(X_train, y_train)
# Calculate the predictions on the test set
pred = ____
# Evaluate the performance using the RMSE
rmse = np.sqrt(mean_squared_error(y_test, pred))
print('RMSE: {:.3f}'.format(rmse))