Régression régularisée : Ridge
La régression Ridge applique une régularisation en prenant les valeurs au carré des paramètres du modèle, multipliées par alpha, puis en les ajoutant à la fonction de perte.
Dans cet exercice, vous allez ajuster des modèles de régression Ridge pour différentes valeurs de alpha et afficher leurs scores \(R^2\). Vous utiliserez toutes les variables du jeu de données sales_df pour prédire "sales". Les données ont déjà été réparties en X_train, X_test, y_train, y_test pour vous.
Une variable appelée alphas vous est fournie sous forme de liste contenant différentes valeurs de alpha, que vous parcourrez pour générer les scores.
Cette activité fait partie du cours
Apprentissage supervisé avec scikit-learn
Instructions de l’exercice
- Importez
Ridge. - Instanciez
Ridgeen fixant alpha àalpha. - Ajustez le modèle sur les données d'entraînement.
- Calculez le score \(R^2\) à chaque itération de
ridge.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
# Import Ridge
from ____.____ import ____
alphas = [0.1, 1.0, 10.0, 100.0, 1000.0, 10000.0]
ridge_scores = []
for alpha in alphas:
# Create a Ridge regression model
ridge = ____
# Fit the data
____
# Obtain R-squared
score = ____
ridge_scores.append(score)
print(ridge_scores)