Träna XGBoost-modeller
Alla maskininlärningsmetoder riskerar att överanpassa. Det ska du få se i det här exemplet med XGBoost. Du arbetar fortfarande med Store Item Demand Forecasting Challenge. DataFrame:en train finns tillgänglig i din arbetsyta.
Låt oss börja med att träna flera XGBoost-modeller med olika hyperparametervärden via XGBoost:s inlärnings-API. Den enda hyperparameter du ändrar är:
max_depth– trädets maximala djup. Ett högre värde gör modellen mer komplex och ökar risken för överanpassning.
Den här övningen är en del av kursen
Vinna en Kaggle-tävling i Python
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
import xgboost as xgb
# Create DMatrix on train data
dtrain = xgb.DMatrix(data=train[['store', 'item']],
label=train['sales'])
# Define xgboost parameters
params = {'objective': 'reg:squarederror',
'____': ____,
'verbosity': 0}
# Train xgboost model
xg_depth_2 = xgb.train(params=params, dtrain=dtrain)