1. Apprendre
    2. /
  2. Cours
    3. /
  3. Amorçage de gradient avancé avec XGBoost
Connected

Exercice

Ajuster le nombre d'itérations de boosting

Commençons l'ajustement des paramètres en observant comment le nombre d'itérations de boosting (le nombre d'arbres construits) influence la performance hors échantillon de votre modèle XGBoost. Vous utiliserez xgb.cv() dans une boucle for et construirez un modèle par valeur du paramètre num_boost_round.

Ici, vous continuez à travailler avec l'ensemble de données sur le logement d'Ames. Les variables explicatives se trouvent dans le tableau X, et le vecteur cible est contenu dans y.

Instructions

100 XP
  • Créez une DMatrix nommée housing_dmatrix à partir de X et y.
  • Créez un dictionnaire de paramètres nommé params, en y passant la "objective" appropriée ("reg:squarederror") et "max_depth" (réglez-la à 3).
  • Parcourez num_rounds dans une boucle for et effectuez une validation croisée à 3 volets. À chaque itération, transmettez à xgb.cv() le nombre courant d'itérations de boosting (curr_num_rounds) comme argument num_boost_round.
  • Ajoutez la RMSE de la dernière itération de boosting pour chaque modèle XGBoost validé croisé à la liste final_rmse_per_round.
  • num_rounds et final_rmse_per_round ont été combinés (zip) et convertis en DataFrame pour que vous puissiez voir facilement la performance du modèle à chaque itération de boosting. Cliquez sur "Soumettre la réponse" pour voir les résultats !