Antrenează modele XGBoost
Orice metodă de Machine Learning poate duce la supraantrenare (overfitting). Vei vedea acest lucru într-un exemplu concret cu XGBoost. Din nou, lucrezi cu setul de date din cadrul Store Item Demand Forecasting Challenge. DataFrame-ul train este disponibil în spațiul tău de lucru.
Începe prin a antrena mai multe modele XGBoost cu seturi diferite de hiperparametri, folosind API-ul de învățare al XGBoost. Singurul hiperparametru pe care îl vei modifica este:
max_depth– adâncimea maximă a unui arbore. Creșterea acestei valori face modelul mai complex și mai predispus la supraantrenare.
Acest exercițiu face parte din cursul
Câștigarea unei competiții Kaggle în Python
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
import xgboost as xgb
# Create DMatrix on train data
dtrain = xgb.DMatrix(data=train[['store', 'item']],
label=train['sales'])
# Define xgboost parameters
params = {'objective': 'reg:squarederror',
'____': ____,
'verbosity': 0}
# Train xgboost model
xg_depth_2 = xgb.train(params=params, dtrain=dtrain)