1. Обучение
  2. /
  3. Курса
  4. /
  5. Екстремальний градієнтний бустинг з XGBoost

Connected

Упражнение

Налаштування кількості boosting-раундів

Почнімо з налаштування параметрів і подивімося, як кількість boosting-раундів (кількість дерев у моделі) впливає на якість XGBoost за межами вибірки. Ви використаєте xgb.cv() усередині циклу for та збудуєте по одній моделі для кожного значення параметра num_boost_round.

Тут ви продовжите роботу з набором даних житлової нерухомості Ames. Ознаки містяться в масиві X, а цільовий вектор — у y.

Инструкции

100 XP
  • Створіть DMatrix під назвою housing_dmatrix з X і y.
  • Створіть словник параметрів params, передавши відповідні "objective" ("reg:squarederror") і "max_depth" (задайте 3).
  • Ітеруйтеся num_rounds у циклі for і виконайте 3-кратну крос-валідацію. У кожній ітерації циклу передавайте поточну кількість boosting-раундів (curr_num_rounds) до xgb.cv() як аргумент num_boost_round.
  • Додайте фінальне значення RMSE останнього boosting-раунду для кожної крос-валідаційної моделі XGBoost до списку final_rmse_per_round.
  • num_rounds і final_rmse_per_round вже об'єднано через zip і перетворено на DataFrame, щоб ви могли легко побачити, як модель працює з кожним boosting-раундом. Натисніть "Submit Answer", щоб переглянути результати!