XGBoost 모델 학습하기

모든 Machine Learning 기법은 과적합될 수 있습니다. 이번 예제에서는 XGBoost로 그 과정을 확인해 보겠습니다. 이번에도 Store Item Demand Forecasting Challenge 데이터를 사용하며, train DataFrame이 워크스페이스에 준비되어 있어요.

먼저 XGBoost의 learning API를 사용해 서로 다른 하이퍼파라미터로 여러 모델을 학습해 보겠습니다. 여기서 바꿀 하이퍼파라미터는 하나입니다:

max_depth - 트리의 최대 깊이입니다. 값을 키울수록 모델이 복잡해져 과적합될 가능성이 높아집니다.

이 연습은 강의의 일부입니다

Python으로 Kaggle 대회 공략하기

강의 보기

실습형 인터랙티브 연습

이 예제를 이 샘플 코드를 완성하여 풀어보세요.

import xgboost as xgb

# Create DMatrix on train data
dtrain = xgb.DMatrix(data=train[['store', 'item']],
                     label=train['sales'])

# Define xgboost parameters
params = {'objective': 'reg:squarederror',
          '____': ____,
          'verbosity': 0}

# Train xgboost model
xg_depth_2 = xgb.train(params=params, dtrain=dtrain)

코드 편집 및 실행