MLP のグリッドサーチ
ハイパーパラメータのチューニングは、sklearn で複数の入力パラメータを指定して行えます。各パラメータは numpy の関数で表現できます。param_grid に指定したハイパーパラメータの全組み合わせを総当たりで探索する方法が、グリッドサーチです。この演習では、グリッドサーチを使って MLP 分類器のハイパーパラメータを探索します。
X_train、y_train、X_test、y_test はワークスペースに用意されており、特徴量はすでに標準化されています。pandas は pd、numpy は np として利用できます。
この演習はコースの一部です
PythonでMachine Learningを使ってCTRを予測する
演習の手順
max_iter用に[10, 20]の値リストを、hidden_layer_sizes用に[(8, ), (16, )]の値リストを作成します。- すべてのハイパーパラメータの組み合わせを反復するよう、
n_jobsで 4 ジョブのグリッドサーチを設定します。 - ベストな AUC スコアと、そのスコアを達成したベスト推定器を出力してください。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Create list of hyperparameters
max_iter = [____, ____]
hidden_layer_sizes = [____, ____]
param_grid = {'max_iter': max_iter, 'hidden_layer_sizes': hidden_layer_sizes}
# Use Grid search CV to find best parameters using 4 jobs
mlp = ____
clf = ____(estimator = mlp, param_grid = ____,
scoring = 'roc_auc', ____ = 4)
clf.fit(X_train, y_train)
print("Best Score: ")
print(clf.____)
print("Best Estimator: ")
print(clf.____)