Suis-je en sous-apprentissage?

Vous créez un modèle de forêt aléatoire pour prédire si vous gagnerez une future partie de Tic-Tac-Toe. À partir du jeu de données tic_tac_toe, vous avez créé des jeux d'entraînement et de test, X_train, X_test, y_train et y_test.

Vous avez décidé de créer plusieurs modèles de forêt aléatoire avec un nombre d'arbres variable (1, 2, 3, 4, 5, 10, 20 et 50). Plus vous utilisez d'arbres, plus l'exécution du modèle prendra du temps. Cependant, si vous n'en utilisez pas assez, vous risquez le sous-apprentissage. Vous avez mis en place une boucle for pour tester votre modèle avec ces différents nombres d'arbres.

Cette activité fait partie du cours

Validation de modèles en Python

Instructions de l’exercice

À chaque itération, prédisez les valeurs pour les jeux de données X_train et X_test.
À chaque itération, ajoutez à train_scores le accuracy_score() du jeu y_train et des prédictions correspondantes.
À chaque itération, ajoutez à test_scores le accuracy_score() du jeu y_test et des prédictions correspondantes.
Affichez les scores d'entraînement et de test à l'aide des instructions print.

Exercice interactif pratique

Essayez cet exercice en complétant ce code d’exemple.

from sklearn.metrics import accuracy_score

test_scores, train_scores = [], []
for i in [1, 2, 3, 4, 5, 10, 20, 50]:
    rfc = RandomForestClassifier(n_estimators=i, random_state=1111)
    rfc.fit(X_train, y_train)
    # Create predictions for the X_train and X_test datasets.
    train_predictions = rfc.predict(____)
    test_predictions = rfc.predict(____)
    # Append the accuracy score for the test and train predictions.
    train_scores.append(round(____(____, ____), 2))
    test_scores.append(round(____(____, ____), 2))
# Print the train and test scores.
print("The training scores were: {}".format(____))
print("The testing scores were: {}".format(____))

Modifier et exécuter le code

Cette activité fait partie du cours

Validation de modèles en Python

SkillTag.level.intermediateSkillTag.label

4.9+

Commencer le cours gratuitement

Avant de pouvoir valider des modèles, il faut savoir comment les créer et les utiliser. Ce chapitre présente une introduction à l'exécution de modèles de régression et de classification avec scikit-learn. Nous nous appuierons sur ces bases de construction de modèles dans les chapitres suivants.

Exercise 1: Introduction à la validation de modèles Exercise 2: Étapes de modélisation Exercise 3: Données vues vs non vues Exercise 4: Modèles de régression Exercise 5: Définir des paramètres et entraîner un modèle Exercise 6: Importances des caractéristiques Exercise 7: Modèles de classification Exercise 8: Prédictions de classification Exercise 9: Réutiliser les paramètres du modèle Exercise 10: Classificateur par forêt aléatoire

Ce chapitre porte sur les fondements de la validation de modèles. De la division des données en ensembles d'entraînement, de validation et de test à la compréhension du compromis biais-variance, nous préparons le terrain pour les techniques de validation K-Fold et Leave-One-Out mises en pratique au chapitre trois.

Exercise 1: Créer des jeux de données d'entraînement, de test et de validation Exercise 2: Créer un seul ensemble de validation (holdout)Exercise 3: Créer deux ensembles de validation externe Exercise 4: Pourquoi utiliser des ensembles de retenue (holdout)Exercise 5: Mesures de précision : modèles de régression Exercise 6: Erreur absolue moyenne Exercise 7: Erreur quadratique moyenne Exercise 8: Performance sur des sous-ensembles de données Exercise 9: Mesures de classification Exercise 10: Matrices de confusion Exercise 11: Matrices de confusion, encore Exercise 12: Précision vs rappel Exercise 13: Le compromis biais-variance Exercise 14: Erreur due au sous/apprentissage excessif Exercise 15: Suis-je en sous-apprentissage?

Exercice en cours

Les ensembles de retenue constituent un excellent point de départ pour la validation. Toutefois, utiliser un seul ensemble d'entraînement et de test est souvent insuffisant. La validation croisée est considérée comme la référence pour valider la performance d'un modèle et est presque toujours utilisée lors de l'ajustement des hyperparamètres. Ce chapitre se concentre sur la réalisation de validations croisées pour évaluer la performance des modèles.

Exercise 1: Les limites des jeux de validation (holdout)Exercise 2: Deux échantillons Exercise 3: Problèmes potentiels Exercise 4: Validation croisée Exercise 5: `KFold()` de scikit-learn Exercise 6: Utiliser les indices KFold Exercise 7: cross_val_score() de sklearn Exercise 8: Méthodes de scikit-learn Exercise 9: Implanter cross_val_score()Exercise 10: Validation croisée « leave-one-out » (LOOCV)Exercise 11: Quand utiliser la LOOCV Exercise 12: Leave-one-out cross-validation

Les trois premiers chapitres portaient sur des techniques de validation de modèles. Au chapitre 4, nous appliquons ces techniques, en particulier la validation croisée, tout en apprenant l'optimisation des hyperparamètres. Après tout, la validation rend l'ajustement possible et nous aide à choisir le meilleur modèle global.

Exercise 1: Introduction à l'ajustement des hyperparamètres Exercise 2: Créer des hyperparamètres Exercise 3: Exécuter un modèle à l'aide d'intervalles Exercise 4: RandomizedSearchCV Exercise 5: Préparer RandomizedSearch Exercise 6: Mettre en œuvre RandomizedSearchCV Exercise 7: Choisir votre modèle final Exercise 8: Meilleure précision de classification Exercise 9: Choisir le meilleur modèle en précision Exercise 10: Cours terminé !