Vizualizarea importanței caracteristicilor: Care sunt cele mai importante caracteristici din setul meu de date

O altă modalitate de a vizualiza modelele XGBoost este să analizezi importanța fiecărei coloane de caracteristici din setul de date original, în cadrul modelului.

O metodă simplă constă în a număra de câte ori este folosită fiecare caracteristică pentru a face o împărțire, pe parcursul tuturor rundelor de boosting (arborilor) din model, apoi în a reprezenta grafic rezultatul sub forma unui grafic cu bare, în care caracteristicile sunt ordonate după numărul de apariții. XGBoost oferă funcția plot_importance(), care îți permite să faci exact acest lucru – și vei avea ocazia să o folosești în acest exercițiu!

Acest exercițiu face parte din cursul

Gradient Boosting Extrem cu XGBoost

Vezi cursul

Instrucțiuni pentru exercițiu

Creează DMatrix-ul din X și y, ca înainte.
Creează un dicționar de parametri cu "objective" corespunzător ("reg:squarederror") și un "max_depth" de 4.
Antrenează modelul cu 10 runde de boosting, exact ca în exercițiul anterior.
Folosește xgb.plot_importance() și transmite modelul antrenat pentru a genera graficul importanței caracteristicilor.

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

# Create the DMatrix: housing_dmatrix
housing_dmatrix = ____

# Create the parameter dictionary: params
params = ____

# Train the model: xg_reg
xg_reg = ____

# Plot the feature importances
____
plt.show()

Editează și rulează codul