Entraîner un ensemble boosté

Les modèles d’ensemble boostés comptent parmi les méthodes de Machine Learning les plus puissantes aujourd’hui. Après avoir vu les bases théoriques, passons à la pratique. Vous allez créer un ensemble boosté à partir des données d’entraînement sur les client·e·s détenteur·rice·s de carte de crédit.

Sont déjà chargés dans votre espace de travail : les données d’entraînement customers_train et la spécification d’arbre boosté que vous avez créée précédemment, boost_spec.

Cet exercice fait partie du cours

Machine Learning avec des modèles à base d’arbres en R

Afficher le cours

Exercice interactif pratique

Essayez cet exercice en complétant cet exemple de code.

# Train the model on the training set
boost_model <- fit(___,
                   ___,
                   ___)

boost_model

Modifier et exécuter le code

Cet exercice fait partie du cours

Machine Learning avec des modèles à base d’arbres en R

DébutantNiveau de compétence

4.9+

Commencer le cours gratuitement

Prêt à construire un véritable pipeline de Machine Learning ? Réalisez des exercices guidés pas à pas pour apprendre à créer des arbres de décision, à scinder vos données et à prédire quels patients sont les plus susceptibles de développer un diabète. Pour finir, vous mettrez en place des mesures de performance pour évaluer vos modèles et juger vos prédictions.

Exercise 1: Bienvenue dans le cours !Exercise 2: Pourquoi des méthodes à base d’arbres ?Exercise 3: Définir cet arbre Exercise 4: Entraîner le modèle Exercise 5: Comment faire grandir votre arbre Exercise 6: Découpage entraînement/test Exercise 7: Éviter les déséquilibres de classes Exercise 8: De zéro à héros Exercise 9: Prédire et évaluer Exercise 10: Faire des prédictions Exercise 11: Décryptez la matrice Exercise 12: Prédisez-vous correctement ?

Envie d’un peu de douceur ? Utilisez un jeu de données d’évaluations de chocolats pour construire des arbres de régression et évaluer leurs performances avec des mesures d’erreur adaptées. Vous dépasserez les incertitudes statistiques d’un simple découpage apprentissage/test grâce à des techniques savoureuses comme la validation croisée, puis irez plus loin en maîtrisant le compromis biais-variance.

Exercise 1: Variables continues Exercise 2: Entraîner un arbre de régression Exercise 3: Prédire de nouvelles valeurs Exercise 4: Examiner la sortie du modèle Exercise 5: Mesures de performance pour les arbres de régression Exercise 6: Performance sur l’échantillon d’entraînement Exercise 7: Performance hors échantillon Exercise 8: Plus l’erreur est grande, plus la pénalité est forte Exercise 9: Validation croisée Exercise 10: Créer les plis Exercise 11: Ajuster les folds Exercise 12: Évaluer les plis Exercise 13: Compromis biais-variance Exercise 14: Appeler les choses par leur nom Exercise 15: Ajuster la complexité du modèle Exercise 16: Performances en échantillon et hors échantillon

Il est temps d’aller plus loin avec le réglage de vos hyperparamètres et l’interprétation des courbes ROC (receiver operating characteristic). Dans ce chapitre, vous exploiterez l’intelligence collective avec des modèles d’ensemble comme le bagging ou les forêts aléatoires, et vous construirez des ensembles capables de prévoir quels titulaires de cartes de crédit sont les plus susceptibles de résilier.

Exercise 1: Ajuster les hyperparamètres Exercise 2: Générer une grille de réglage Exercise 3: Ajuster le long de la grille Exercise 4: Choisir le gagnant Exercise 5: D’autres mesures de modèle Exercise 6: Calculer la spécificité Exercise 7: Tracer la courbe ROC Exercise 8: Aire sous la courbe ROC Exercise 9: Arbres agrégés (bagging)Exercise 10: Créer des arbres baggés Exercise 11: ROC et AUC en échantillon Exercise 12: Vérifier le surapprentissage Exercise 13: Forêt aléatoire Exercise 14: Arbres ensachés vs. random forest Exercise 15: Importance des variables

Prêt pour le haut de gamme des modèles à base d’arbres ? Appliquez le gradient boosting pour créer des ensembles puissants surpassant tout ce que vous avez vu ou construit. Apprenez à les ajuster finement et à comparer différents modèles pour choisir le meilleur pour la production.

Exercise 1: Introduction au boosting Exercise 2: Bagging vs. boosting Exercise 3: Spécifier un ensemble boosté Exercise 4: Gradient boosting Exercise 5: Entraîner un ensemble boosté

Exercice en cours

Exercise 6: Évaluer l’assemblage Exercise 7: Comparer à un classifieur unique Exercise 8: Optimiser l’ensemble boosté Exercise 9: Préparer l’optimisation Exercise 10: L’ajustement proprement dit Exercise 11: Finaliser le modèle Exercise 12: Comparaison de modèles Exercise 13: Comparer l’AUC Exercise 14: Tracer des courbes ROC Exercise 15: Récapitulatif