1. Nauka
  2. /
  3. Kursy
  4. /
  5. Metody zespołowe w Pythonie

Connected

ćwiczenie

Pojedynek boosterów: Light kontra Extreme

Wyniki modelu CatBoost są całkiem niezłe, ale sprawdźmy dwa inne podejścia do boostingu i zobaczmy, które wypada lepiej: „Light" czy „Extreme".

CatBoost szczególnie sprawdza się wtedy, gdy zbiór danych zawiera cechy kategoryczne. W tym przypadku wszystkie cechy są numeryczne, więc jedno z pozostałych podejść może dać lepsze rezultaty.

Ponieważ budujemy regresory, użyjemy dodatkowego parametru objective, który określa funkcję uczenia. Aby zastosować błąd kwadratowy, ustaw objective na 'reg:squarederror' dla XGBoost oraz 'mean_squared_error' dla LightGBM.

Dodatkowo dla XGBoost określ parametr n_jobs, aby skrócić czas obliczeń.

UWAGA: uważaj, żeby nie używać klasyfikatorów – w przeciwnym razie sesja może wygasnąć!

Instrukcje

100 XP
  • Zbuduj XGBRegressor z parametrami: max_depth = 3, learning_rate = 0.1, n_estimators = 100 i n_jobs=2.
  • Zbuduj LGBMRegressor z parametrami: max_depth = 3, learning_rate = 0.1 i n_estimators = 100.