Régularisation manuelle avec Lasso

Le jeu de données attrition comporte 30 variables. Votre service des ressources humaines vous demande de construire un modèle facile à interpréter et à maintenir. Il souhaite en particulier réduire le nombre de variables afin que votre modèle soit aussi interprétable que possible.

Dans cet exercice, vous allez utiliser Lasso pour réduire automatiquement le nombre de variables de votre modèle. Pour cette première tentative, vous indiquerez manuellement une pénalité et observerez le comportement du modèle.

Les données train et test, ainsi qu'une recipe de base, sont déjà chargées pour vous.

Cet exercice fait partie du cours

Feature engineering en R

Afficher le cours

Instructions

Configurez votre modèle de régression logistique pour utiliser le moteur glmnet.
Définissez les arguments pour exécuter Lasso avec une pénalité de 0,06.

Exercice interactif pratique

Essayez cet exercice en complétant cet exemple de code.

model_lasso_manual <- logistic_reg() %>%

# Set the glmnet engine for your logistic regression model
  ___(___) %>%

# Set arguments to run Lasso with a penalty of 0.06
  set_args(mixture = ___, ___ = ___)

workflow_lasso_manual <- workflow() %>%
  add_model(model_lasso_manual) %>%
  add_recipe(recipe)

fit_lasso_manual <- workflow_lasso_manual %>% 
  fit(train)

tidy(fit_lasso_manual)

Modifier et exécuter le code

Cet exercice fait partie du cours

Feature engineering en R

IntermédiaireNiveau de compétence

4.8+

Commencer le cours gratuitement

Les données brutes ne se présentent pas toujours sous la forme la plus adaptée à l’analyse. Dans ce premier chapitre, vous verrez comment transformer et créer des variables qui améliorent les performances et l’interprétabilité de votre modèle.

Exercise 1: Qu’est-ce que le feature engineering ?Exercise 2: Un modèle exploratoire Exercise 3: Concevoir manuellement une variable Exercise 4: Créer de nouvelles variables à partir de votre connaissance du domaine Exercise 5: Préparer vos données pour l’analyse Exercise 6: Construire un workflow Exercise 7: Augmenter le contenu informationnel des données brutes Exercise 8: Identifier les valeurs manquantes Exercise 9: Imputer les valeurs manquantes et créer des variables indicatrices Exercise 10: Ajuster et évaluer le modèle Exercise 11: Prédire les réservations d’hôtel

Dans ce chapitre, vous verrez qu’au‑delà des transformations manuelles, vous pouvez exploiter les outils du tidyverse pour créer automatiquement de nouvelles variables. Vous découvrirez en quoi cette approche améliore la reproductibilité de vos modèles et se révèle particulièrement utile avec des jeux de données comportant de nombreuses variables.

Exercise 1: Pourquoi transformer des variables existantes ?Exercise 2: Jeter un coup d’œil à vos données Exercise 3: Normaliser et appliquer une transformation logarithmique Exercise 4: Ajuster et augmenter Exercise 5: Personnalisez l’évaluation de votre modèle Exercise 6: Transformations courantes des variables Exercise 7: Transformations courantes Exercise 8: Recette simple Exercise 9: Transformation de Box-Cox Exercise 10: Transformation de Yeo-Johnson Exercise 11: Transformations avancées Exercise 12: Référence de base Exercise 13: step_poly()Exercise 14: step_percentile()Exercise 15: Qui reste ?

Vous allez maintenant apprendre que les modèles bénéficient souvent d’une réduction de dimension et de l’extraction de variables à partir de données de grande dimension, notamment en convertissant des textes en valeurs numériques, en encodant des catégories et en classant la puissance prédictive des variables. Vous explorerez des méthodes comme l’analyse en composantes principales, l’analyse en composantes principales à noyau, l’extraction numérique à partir de textes, les encodages catégoriels et les scores d’importance des variables.

Exercise 1: Réduction de la dimensionnalité Exercise 2: Préparer le terrain Exercise 3: Explorer la structure en profondeur Exercise 4: Pourcentage de variance expliquée Exercise 5: Visualiser la variance expliquée Exercise 6: Feature hashing Exercise 7: Examiner le champ d’éducation Exercise 8: Dans la matrice Exercise 9: Explorer le hachage Exercise 10: Visualiser le hashing Exercise 11: Encoder des variables catégorielles à l’aide de l’apprentissage supervisé Exercise 12: Configurer votre workflow Exercise 13: Ajuster, augmenter et évaluer Exercise 14: Assembler les modèles Exercise 15: Importance des variables Exercise 16: Créer un workflow Exercise 17: Ajuster et augmenter Exercise 18: Quel est le principal prédicteur ?

Vous terminerez le cours en découvrant des techniques de feature engineering et de Machine Learning. Vous commencerez par vous concentrer sur les problèmes liés à l’utilisation de toutes les variables disponibles dans un modèle et sur l’importance d’identifier les variables non pertinentes ou redondantes, puis d’apprendre à les supprimer à l’aide de méthodes intégrées comme le lasso et l’elastic‑net. Ensuite, vous explorerez des méthodes de rétrécissement comme le lasso, la ridge et l’elastic‑net, qui permettent de régulariser les poids des variables ou de sélectionner des variables en annulant certains coefficients. Enfin, vous construirez un flux de travail de feature engineering de bout en bout et réviserez les notions et fonctions vues précédemment dans un petit projet.

Exercise 1: Réduire les variables du modèle Exercise 2: Passer au crible l’importance des variables Exercise 3: Évaluer les performances du modèle avec tous les prédicteurs disponibles Exercise 4: Construire un modèle réduit Exercise 5: Méthodes de rétrécissement Exercise 6: Régularisation manuelle avec Lasso

Exercice en cours

Exercise 7: Ajuster la pénalité Exercise 8: Finaliser le modèle Exercise 9: Réunir le tout Exercise 10: Préparer et découper Exercise 11: Prétraiter Exercise 12: Modèle Exercise 13: Évaluer Exercise 14: Félicitations !