Bagging に初挑戦

これまでに、bagging アンサンブルの1回の反復で何が起こるかを見てきました。ここではカスタムの bagging モデルを作ってみましょう！

次の2つの関数が用意されています。

def build_decision_tree(X_train, y_train, random_state=None):
    # 復元抽出によるサンプリングを行い、
    # 「弱い」決定木を構築して、
    # 学習用データにフィットさせます

def predict_voting(classifiers, X_test):
    # 個々の予測を行い、
    # それらを「Voting」で結合します

技術的には、build_decision_tree() 関数は前の演習で行った処理と同じです。ここではこの木を複数作り、最後に組み合わせます。「弱い」モデルのアンサンブルで性能が向上するか確認してみましょう！

学習用データとインデックス i を乱数シードとして渡し、build_decision_tree() を呼び出して個々のモデルを作成します。
分類器のリスト clf_list とテスト入力特徴量を使って predict_voting() でテストセットのラベルを予測します。