1. Nauka
    2. /
  2. Kursy
    3. /
  3. Extreme Gradient Boosting with XGBoost
Connected

ćwiczenie

Regularyzacja w XGBoost

Po zapoznaniu się z przykładem regularyzacji l1, spróbujesz teraz zmieniać karę regularyzacji l2 – znana również jako "lambda" – i sprawdzisz jej wpływ na ogólną wydajność modelu na zbiorze danych dotyczących cen domów w Ames.

Instrukcje

100 XP
  • Utwórz DMatrix z X i y tak jak poprzednio.
  • Utwórz początkowy słownik parametrów, określając "objective" jako "reg:squarederror" oraz "max_depth" równe 3.
  • Użyj xgb.cv() wewnątrz pętli for i systematycznie zmieniaj wartość "lambda", przekazując bieżącą wartość l2 (reg).
  • Dołącz wartość "test-rmse-mean" z ostatniej rundy boostingu dla każdego modelu xgboost poddanego walidacji krzyżowej.
  • Kliknij 'Prześlij odpowiedź', aby zobaczyć wyniki. Co zauważasz?