Ajuster l’intensité de la régularisation
Votre modèle Lasso actuel a un score \(R^2\) de 84,7 %. Lorsqu’un modèle applique une régularisation trop forte, il peut souffrir d’un biais élevé, ce qui nuit à son pouvoir prédictif.
Améliorons l’équilibre entre pouvoir prédictif et simplicité du modèle en ajustant le paramètre alpha.
Cet exercice fait partie du cours
<cours>Réduction de dimension en Python</cours>Instructions de l’exercice
- Trouvez la valeur la plus élevée de
alphaqui donne un \(R^2\) supérieur à 98 % parmi les options :1,0.5,0.1et0.01.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
# Find the highest alpha value with R-squared above 98%
la = Lasso(____, random_state=0)
# Fits the model and calculates performance stats
la.fit(X_train_std, y_train)
r_squared = la.score(X_test_std, y_test)
n_ignored_features = sum(la.coef_ == 0)
# Print peformance stats
print(f"The model can predict {r_squared:.1%} of the variance in the test set.")
print(f"{n_ignored_features} out of {len(la.coef_)} features were ignored.")