Ajuster l'intensité de la régularisation
Votre modèle Lasso actuel a un score \(R^2\) de 84,7 %. Lorsqu'un modèle applique une régularisation trop forte, il peut souffrir d'un biais élevé, ce qui nuit à sa capacité prédictive.
Améliorons l'équilibre entre la puissance prédictive et la simplicité du modèle en ajustant le paramètre alpha.
Cette activité fait partie du cours
Réduction de dimensionnalité en Python
Instructions de l’exercice
- Trouvez la valeur la plus élevée de
alphaqui donne un \(R^2\) supérieur à 98 % parmi les options suivantes :1,0.5,0.1et0.01.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
# Find the highest alpha value with R-squared above 98%
la = Lasso(____, random_state=0)
# Fits the model and calculates performance stats
la.fit(X_train_std, y_train)
r_squared = la.score(X_test_std, y_test)
n_ignored_features = sum(la.coef_ == 0)
# Print peformance stats
print(f"The model can predict {r_squared:.1%} of the variance in the test set.")
print(f"{n_ignored_features} out of {len(la.coef_)} features were ignored.")