Навчіть моделі XGBoost
Будь-який метод машинного навчання може перенавчатися. На цьому прикладі з XGBoost ви побачите, як це відбувається. Ви знову працюєте з задачою Store Item Demand Forecasting Challenge. Датафрейм train доступний у вашому робочому середовищі.
Спочатку навчімо кілька моделей XGBoost з різними наборами гіперпараметрів, використовуючи learning API XGBoost. Єдина гіперпараметра, яку ви змінюватимете:
max_depth— максимальна глибина дерева. Збільшення цього значення ускладнює модель і підвищує ризик перенавчання.
Ця вправа є частиною курсу
Як перемагати в змаганнях Kaggle за допомогою Python
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
import xgboost as xgb
# Create DMatrix on train data
dtrain = xgb.DMatrix(data=train[['store', 'item']],
label=train['sales'])
# Define xgboost parameters
params = {'objective': 'reg:squarederror',
'____': ____,
'verbosity': 0}
# Train xgboost model
xg_depth_2 = xgb.train(params=params, dtrain=dtrain)