確率的勾配ブースティング（SGB）

Create Your Free Account

or

By continuing, you accept our Terms of Use, our Privacy Policy and that your data is stored in the USA.

この演習はコースの一部です

Pythonで学ぶ木ベースのMachine Learning

SkillTag.level.intermediateSkillTag.label

4.8+

無料でコースを始める

Classification and Regression Trees (CART) は、分類と回帰の問題に用いられる教師あり学習モデルの総称です。この章では、CARTアルゴリズムの概要を紹介します。

Exercise 1: 分類のための決定木 Exercise 2: 最初の分類木を学習してみましょう Exercise 3: 分類木を評価する Exercise 4: Logistic Regression と分類木の比較 Exercise 5: 分類木の学習 Exercise 6: 分類木を成長させる Exercise 7: 基準としてエントロピーを使う Exercise 8: エントロピー vs ジニ指数 Exercise 9: 回帰のための決定木 Exercise 10: 最初の回帰木を学習してみましょう Exercise 11: 回帰木を評価する Exercise 12: 線形回帰 vs 回帰木

バイアス–バリアンストレードオフは、教師ありMachine Learningにおける基本概念の一つです。この章では、過学習と未学習（アンダーフィッティング）をどのように診断するかを学びます。さらに、複数モデルの予測を集約してより堅牢な予測を得るアンサンブルという考え方も紹介します。

Exercise 1: 汎化誤差 Exercise 2: 複雑さ、バイアス、バリアンス Exercise 3: 過学習と過小適合 Exercise 4: バイアスとバリアンスの問題を診断する Exercise 5: モデルをインスタンス化する Exercise 6: 10-fold CV 誤差を評価する Exercise 7: トレーニング誤差を評価する Exercise 8: 高バイアス？それとも高バリアンス？Exercise 9: アンサンブル学習 Exercise 10: アンサンブルを定義する Exercise 11: 個々の分類器を評価する Exercise 12: Voting Classifier で精度をさらに向上させる

バギングは、訓練データからサンプリングした異なるサブセットで同じアルゴリズムを何度も学習させるアンサンブル手法です。この章では、バギングを使って木のアンサンブルを構築する方法を理解します。さらに、各分割でのランダム化によりアンサンブルの多様性を高めるランダムフォレストアルゴリズムについても学びます。

Exercise 1: バギング Exercise 2: Bagging Classifier を定義する Exercise 3: Bagging の性能を評価する Exercise 4: アウト・オブ・バッグ評価 Exercise 5: 下準備をしよう Exercise 6: OOB スコア vs テストセットスコア Exercise 7: Random Forests（RF）Exercise 8: RF 回帰器を学習する Exercise 9: RF 回帰器を評価する Exercise 10: 特徴量重要度の可視化

ブースティングは、複数のモデルを逐次的に学習させ、各モデルが直前のモデルの誤りから学ぶアンサンブル手法を指します。この章では、AdaBoostとGradient Boostingという2つのブースティング手法を紹介します。

Exercise 1: Adaboost（AdaBoost）Exercise 2: AdaBoost 分類器を定義する Exercise 3: AdaBoost 分類器を学習させる Exercise 4: AdaBoost 分類器を評価する Exercise 5: Gradient Boosting (GB)Exercise 6: GB 回帰器を定義する Exercise 7: GB 回帰器を学習させる Exercise 8: GB 回帰器を評価する Exercise 9: 確率的勾配ブースティング（SGB）

現在の演習

Exercise 10: SGB による回帰 Exercise 11: SGB 回帰器を学習させる Exercise 12: SGB 回帰器を評価する

Machine Learningモデルのハイパーパラメータは、データからは学習されないパラメータで、訓練前に設定する必要があります。この章では、グリッドサーチと交差検証を用いて、木ベースのモデルのハイパーパラメータをチューニングする方法を学びます。

Exercise 1: CART のハイパーパラメータをチューニングする Exercise 2: 決定木のハイパーパラメータ Exercise 3: 木のハイパーパラメータグリッドを設定する Exercise 4: 最適な木を探す Exercise 5: 最適な木を評価する Exercise 6: RF のハイパーパラメータをチューニングする Exercise 7: Random Forest のハイパーパラメータ Exercise 8: RF のハイパーパラメータグリッドを設定する Exercise 9: 最適なフォレストを探す Exercise 10: 最適なランダムフォレストを評価する Exercise 11: おめでとうございます！