はじめての AdaBoost モデル
前のレッスンでは、映画の対数収益を予測するモデルを作成しました。まず単回帰モデルから始め、RMSE は 7.34 でした。次にブースティングを1回適用して改善を試み、RMSE を 7.28 まで下げました。
この演習では、パフォーマンスをさらに伸ばすために、初めての AdaBoost モデル(AdaBoostRegressor)を構築します。
movies データセットはすでに学習用とテスト用に分割されています。ここでは 'budget' と 'popularity' の特徴量を使用します。これらは sklearn.preprocessing モジュールの StandardScaler() を使って事前に標準化済みです。
この演習はコースの一部です
Pythonで学ぶアンサンブル手法
演習の手順
- 既定の線形回帰モデルをインスタンス化します。
- 線形回帰をベースモデルとし、
12個の推定器でAdaBoostRegressorを構築して学習させます。 - テストセットで予測値を計算します。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Instantiate the default linear regression model
reg_lm = ____
# Build and fit an AdaBoost regressor
reg_ada = ____(____, ____, random_state=500)
reg_ada.fit(X_train, y_train)
# Calculate the predictions on the test set
pred = ____
# Evaluate the performance using the RMSE
rmse = np.sqrt(mean_squared_error(y_test, pred))
print('RMSE: {:.3f}'.format(rmse))