Обучение моделей XGBoost
Любой метод машинного обучения может привести к переобучению. Вы убедитесь в этом на примере XGBoost. Мы снова работаем с задачей Store Item Demand Forecasting Challenge. DataFrame train доступен в вашем рабочем пространстве.
Для начала обучим несколько моделей XGBoost с разными наборами гиперпараметров, используя обучающий API XGBoost. Единственный гиперпараметр, который мы будем менять:
max_depth— максимальная глубина дерева. Увеличение этого значения делает модель более сложной и повышает риск переобучения.
Это упражнение является частью курса
Победа в соревновании Kaggle на Python
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
import xgboost as xgb
# Create DMatrix on train data
dtrain = xgb.DMatrix(data=train[['store', 'item']],
label=train['sales'])
# Define xgboost parameters
params = {'objective': 'reg:squarederror',
'____': ____,
'verbosity': 0}
# Train xgboost model
xg_depth_2 = xgb.train(params=params, dtrain=dtrain)