Comparer la RMSE et la racine de l’erreur quadratique moyenne relative

Dans cet exercice, vous allez montrer que l’application d’une transformation logarithmique à une variable monétaire avant la modélisation améliore l’erreur relative moyenne (mais augmente la RMSE) par rapport à une modélisation directe de la variable monétaire. Vous comparerez les résultats de model.log de l’exercice précédent à un modèle (model.abs) qui ajuste directement le revenu.

Les jeux de données income_train et income_test ont été préchargés, ainsi que votre modèle model.log.

Également disponibles :

model.abs : un modèle qui ajuste directement le revenu aux variables explicatives selon la formule

Income2005 ~ Arith + Word + Parag + Math + AFQT

Cet exercice fait partie du cours

<cours>Apprentissage supervisé en R : Régression</cours>

Instructions de l’exercice

Complétez les blancs pour ajouter les prédictions des modèles à income_test.
- N’oubliez pas d’exponentier les prédictions de model.log pour annuler la transformation logarithmique !
Complétez les blancs pour utiliser pivot_longer() sur les prédictions et calculer les résidus et l’erreur relative.
Complétez les blancs pour calculer la RMSE et la RMSE relative des prédictions.
- Quel modèle a la plus grande erreur absolue ? La plus grande erreur relative ?

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

# fmla.abs is available
fmla.abs

# model.abs is available
summary(model.abs)

# Add predictions to the test set
income_test <- income_test %>%
  mutate(pred.absmodel = ___(___, income_test),        # predictions from model.abs
         pred.logmodel = ___(___(___, income_test)))   # predictions from model.log

# pivot_longer the predictions and calculate residuals and relative error
income_long <- income_test %>% 
  pivot_longer(names_to = 'modeltype', values_to = 'pred', cols=c('pred.absmodel', 'pred.logmodel')) %>%
  mutate(residual = ___,   # residuals
         relerr   = ___)   # relative error

# Calculate RMSE and relative RMSE and compare
income_long %>% 
  group_by(modeltype) %>%      # group by modeltype
  summarize(rmse     = ___,    # RMSE
            rmse.rel = ___)    # Root mean squared relative error

Modifier et exécuter le code

Cet exercice fait partie du cours

<cours>Apprentissage supervisé en R : Régression</cours>

IntermédiaireNiveau de compétence

4.7+

Commencer le cours gratuitement

Dans ce chapitre, nous présentons la régression sous l’angle du Machine Learning. Nous introduirons la méthode fondamentale : la régression linéaire. Nous verrons comment ajuster un modèle de régression linéaire et comment l’utiliser pour faire des prédictions.

Exercise 1: Bienvenue et introduction Exercise 2: Identifier les tâches de régression Exercise 3: Régression linéaire – la méthode fondamentale Exercise 4: Coder une régression simple à une variable Exercise 5: Examiner un modèle Exercise 6: Prédire une fois le modèle ajusté Exercise 7: Prédire à partir du modèle de chômage Exercise 8: Régression linéaire multivariée (Partie 1)Exercise 9: Régression linéaire multivariée (Partie 2)Exercise 10: Pour conclure sur la régression linéaire

Maintenant que nous savons ajuster des modèles de régression linéaire simples, nous allons apprendre à évaluer leurs performances. Nous passerons en revue l’évaluation visuelle d’un modèle et examinerons deux métriques de base pour les modèles de régression. Nous verrons aussi comment entraîner un modèle qui se comporte bien en conditions réelles, et pas seulement sur les données d’entraînement. Bien que nous démontrions ces techniques avec la régression linéaire, tous ces concepts s’appliquent à des modèles ajustés avec n’importe quel algorithme de régression.

Exercise 1: Évaluer un modèle graphiquement Exercise 2: Évaluer graphiquement le modèle de chômage Exercise 3: La courbe de gain pour évaluer le modèle de chômage Exercise 4: Erreur quadratique moyenne (RMSE)Exercise 5: Calculer la RMSE Exercise 6: R-carré Exercise 7: Calculer R-squared Exercise 8: Corrélation et R-carré Exercise 9: Bien entraîner un modèle Exercise 10: Générer une répartition aléatoire train/test Exercise 11: Entraîner un modèle avec une séparation train/test Exercise 12: Évaluer un modèle avec une séparation entraînement/test Exercise 13: Créer un plan de validation croisée Exercise 14: Évaluer une procédure de modélisation avec une validation croisée en n plis

Avant de passer à des techniques de régression plus avancées, nous aborderons d’autres aspects de modélisation : l’utilisation de variables catégorielles, les interactions entre variables et les cas où il peut être pertinent de transformer les entrées et la sortie avant la modélisation. Même si des techniques plus sophistiquées prennent en charge une partie de ces points automatiquement, il est important de les connaître pour comprendre quelles méthodes gèrent le mieux chaque situation — et lesquelles vous devez encore traiter vous‑même.

Exercise 1: Variables catégorielles en entrée Exercise 2: Examiner la structure des variables catégorielles en entrée Exercise 3: Modéliser avec des variables catégorielles Exercise 4: Interactions Exercise 5: Modéliser une interaction Exercise 6: Modéliser une interaction (2)Exercise 7: Transformer la variable réponse avant la modélisation Exercise 8: Erreur relative Exercise 9: Modéliser une variable monétaire transformée en log Exercise 10: Comparer la RMSE et la racine de l’erreur quadratique moyenne relative

Exercice actuel

Exercise 11: Transformer les variables d’entrée avant la modélisation Exercise 12: Transformations des entrées : la « crosse de hockey »Exercise 13: Transformations d’entrées : la « crosse de hockey » (2)

Maintenant que nous maîtrisons les modèles linéaires, nous allons explorer des techniques adaptées aux situations qui ne respectent pas les hypothèses de linéarité. Cela inclut la prédiction de probabilités et de fréquences (valeurs comprises entre 0 et 1), la prédiction de comptages (entiers naturels et taux associés), ainsi que des réponses non linéaires mais additives par rapport aux entrées. Ces algorithmes sont des variantes du modèle linéaire standard.

Exercise 1: Régression logistique pour prédire des probabilités Exercise 2: Ajuster un modèle de probabilité de survie du moineau Exercise 3: Prédire la survie des moineaux Exercise 4: Régressions de Poisson et quasi-Poisson pour prédire des décomptes Exercise 5: Poisson ou quasipoisson Exercise 6: Ajuster un modèle pour prédire le nombre de locations de vélos Exercise 7: Prédire les locations de vélos sur de nouvelles données Exercise 8: Visualiser les prédictions de location de vélos Exercise 9: GAM pour apprendre des transformations non linéaires Exercise 10: Écrire des formules pour les modèles GAM Exercise 11: Écrire des formules pour les modèles GAM (2)Exercise 12: Modéliser la croissance du soja avec un GAM Exercise 13: Prédire avec le modèle soybean sur des données de test

Dans ce chapitre, nous étudierons des algorithmes de modélisation qui n’imposent ni linéarité ni additivité, et qui peuvent apprendre certains types d’interactions entre variables d’entrée. Ces algorithmes sont des méthodes à base d’arbres, qui fonctionnent en combinant des ensembles d’arbres de décision appris à partir des données d’entraînement.

Exercise 1: L’intuition derrière les méthodes à base d’arbres Exercise 2: Prédire avec un arbre de décision Exercise 3: Forêts aléatoires Exercise 4: Créer un modèle de random forest pour les locations de vélos Exercise 5: Prédire les locations de vélos avec le modèle de random forest Exercise 6: Visualiser les prédictions du modèle random forest pour les vélos Exercise 7: Encodage one-hot des variables catégorielles Exercise 8: vtreat sur un petit exemple Exercise 9: Nouveaux niveaux Exercise 10: Appliquer vtreat aux données de location de vélos Exercise 11: Gradient boosting machines Exercise 12: Trouver le bon nombre d’arbres pour une gradient boosting machine Exercise 13: Ajuster un modèle xgboost pour la location de vélos et prédire Exercise 14: Évaluer le modèle xgboost de location de vélos Exercise 15: Visualiser le modèle xgboost des locations de vélos