これまでにXGBoostで木をベースモデルとして使いましたが、ここではもう一つの種類である線形学習器を使ってみましょう。このモデルはXGBoostではそれほど一般的ではありませんが、XGBoostの強力な学習APIを使って正則化付きの線形回帰を作成できます。ただし一般的でないため、xgb.train() のような scikit-learn 互換ではないXGBoost独自の関数を使ってモデルを構築する必要があります。

これを行うには、使用したいブースター（ベースモデル）の種類を記述するパラメータ辞書を作成します（Chapter 1で xgb.cv() を使ったときに辞書を作成した方法と同様です）。ブースタータイプ（ベースモデル）を定義するキーと値のペアは "booster":"gblinear" です。

モデルを作成したら、これまでと同様にモデルの .train() と .predict() メソッドを使えます。

ここではデータはすでに学習用とテスト用に分割されているので、XGBoostの学習APIで必要となる DMatrix オブジェクトの作成から始めましょう。

目的（損失）関数とベース学習器

Create Your Free Account