動画で見たように、glmnetモデルは実際には一度に多くのモデルを学習します（このパッケージの大きな利点のひとつです）。これを活かすために、モデルの正則化の強さを制御する多数のlambda値を渡せます。train()は賢く、alphaごとに1つのモデルだけを学習し、すべてのlambda値を同時フィット用に一度に渡してくれます。

glmnetモデル向けに私が好むチューニンググリッドは次のとおりです。

expand.grid(
  alpha = 0:1,
  lambda = seq(0.0001, 1, length = 100)
)

このグリッドでは、非常に小さい値から大きい値まで、多数（実際には100個）のlambdaを探索します。（最大のlambdaを10まで増やすこともできますが、この演習では1が良い上限です。）

より少ないモデルを試したい場合は、より短いlambdaの数列を使えます。例えば、lambda = seq(0.0001, 1, length = 10)なら、alphaの各値につき10個のモデルを学習します。

このtuneGridでは、2種類の正則化モデルも確認できます。ridge回帰とlasso回帰です。alpha = 0は純粋なridge回帰、alpha = 1は純粋なlasso回帰です。0から1の間のalphaを使えば、両者の混合（すなわちelastic net）を学習できます。例えば、alpha = 0.05はridge回帰95%、lasso回帰5%の割合になります。

この問題では、それらの違いを示す目的で、両極端 – 純粋なridge回帰と純粋なlasso回帰 – だけを探索します。

より広いモデル空間を探索する

Create Your Free Account