Retour à la régression avec le stacking

Au chapitre 1, nous avons traité les cotes d'applications comme un problème de régression, en prédisant la cote sur l'intervalle de 1 à 5. Jusqu'ici dans ce chapitre, nous l'avons abordé comme un problème de classification, en arrondissant la cote à l'entier le plus près. Pour vous exercer avec StackingRegressor, nous revenons à l'approche par régression. Comme d'habitude, les variables d'entrée ont été normalisées pour vous avec un StandardScaler().

La MAE (erreur absolue moyenne) est la mesure d'évaluation. Au chapitre 1, la MAE était d'environ 0.61. Voyons si la méthode d'ensemble par stacking peut réduire cette erreur.

Cette activité fait partie du cours

Méthodes d'ensemble en Python

Voir le cours

Instructions de l’exercice

Instanciez un régressseur à arbre de décision avec : min_samples_leaf = 11 et min_samples_split = 33.
Instanciez la régression linéaire par défaut.
Instanciez un modèle de régression Ridge avec random_state = 500.
Construisez et entraînez un StackingRegressor, en passant les regressors et le meta_regressor.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

# Instantiate the 1st-layer regressors
reg_dt = ____(____, ____, random_state=500)
reg_lr = ____
reg_ridge = ____

# Instantiate the 2nd-layer regressor
reg_meta = LinearRegression()

# Build the Stacking regressor
reg_stack = ____
reg_stack.____

# Evaluate the performance on the test set using the MAE metric
pred = reg_stack.predict(X_test)
print('MAE: {:.3f}'.format(mean_absolute_error(y_test, pred)))

Modifier et exécuter le code