Visualiser l'importance des variables : quelles variables sont les plus importantes dans mon jeu de données

Une autre façon de visualiser vos modèles XGBoost consiste à examiner, dans le modèle, l'importance de chaque colonne de variables du jeu de données d'origine.

Une méthode simple consiste à compter le nombre de fois où chaque variable est utilisée pour une coupure (split) dans l'ensemble des itérations de rehaussement (arbres) du modèle, puis à visualiser le résultat sous forme d'histogramme, avec les variables ordonnées selon leur fréquence. XGBoost offre la fonction plot_importance() qui permet précisément cela, et vous allez l'utiliser dans cet exercice!

Cette activité fait partie du cours

Amorçage de gradient avancé avec XGBoost

Voir le cours

Instructions de l’exercice

Créez votre DMatrix à partir de X et y, comme précédemment.
Créez un dictionnaire de paramètres avec l'"objective" approprié ("reg:squarederror") et un "max_depth" de 4.
Entraînez le modèle avec 10 itérations de rehaussement, exactement comme dans l'exercice précédent.
Utilisez xgb.plot_importance() et transmettez le modèle entraîné pour générer le graphique de l'importance des variables.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

# Create the DMatrix: housing_dmatrix
housing_dmatrix = ____

# Create the parameter dictionary: params
params = ____

# Train the model: xg_reg
xg_reg = ____

# Plot the feature importances
____
plt.show()

Modifier et exécuter le code