1. Učit se
  2. /
  3. Kurzy
  4. /
  5. Extreme Gradient Boosting with XGBoost

Connected

cvičení

Použití regularizace v XGBoost

Po ukázce l1 regularizace ve videu teď budeš měnit penalizaci l2 regularizace – známou také jako "lambda" – a sledovat, jak ovlivňuje celkový výkon modelu na datasetu cen nemovitostí v Ames.

Pokyny

100 XP
  • Vytvoř DMatrix z X a y stejně jako předtím.
  • Vytvoř počáteční slovník parametrů s hodnotou "objective" nastavenou na "reg:squarederror" a "max_depth" rovným 3.
  • Použij xgb.cv() uvnitř smyčky for a systematicky měň hodnotu "lambda" předáváním aktuální hodnoty l2 (reg).
  • Pro každý cross-validovaný model xgboost přidej hodnotu "test-rmse-mean" z poslední boosting iterace.
  • Klikni na Submit Answer a prohlédni si výsledky. Co si všimneš?