Huấn luyện các mô hình XGBoost
Bất kỳ phương pháp Machine Learning nào cũng có thể bị overfit. Bạn sẽ thấy điều đó qua ví dụ với XGBoost này. Một lần nữa, bạn đang làm việc với bài toán Store Item Demand Forecasting Challenge. DataFrame train đã có sẵn trong không gian làm việc của bạn.
Trước hết, hãy huấn luyện nhiều mô hình XGBoost với các bộ siêu tham số khác nhau bằng API học của XGBoost. Siêu tham số duy nhất bạn sẽ thay đổi là:
max_depth- độ sâu tối đa của một cây. Tăng giá trị này sẽ làm mô hình phức tạp hơn và dễ bị overfit hơn.
Bài tập này là một phần của khóa học
Chinh phục cuộc thi Kaggle bằng Python
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
import xgboost as xgb
# Create DMatrix on train data
dtrain = xgb.DMatrix(data=train[['store', 'item']],
label=train['sales'])
# Define xgboost parameters
params = {'objective': 'reg:squarederror',
'____': ____,
'verbosity': 0}
# Train xgboost model
xg_depth_2 = xgb.train(params=params, dtrain=dtrain)