Recherche aléatoire avec h2o

Vous allez maintenant utiliser la recherche aléatoire. La bibliothèque h2o et seeds_train_data ont déjà été chargées pour vous et le code suivant a été exécuté :

h2o.init()
seeds_train_data_hf <- as.h2o(seeds_train_data)

y <- "seed_type"
x <- setdiff(colnames(seeds_train_data_hf), y)

seeds_train_data_hf[, y] <- as.factor(seeds_train_data_hf[, y])

sframe <- h2o.splitFrame(seeds_train_data_hf, seed = 42)
train <- sframe[[1]]
valid <- sframe[[2]]

dl_params <- list(hidden = list(c(50, 50), c(100, 100)),
                  epochs = c(5, 10, 15),
                  rate = c(0.001, 0.005, 0.01))

Cet exercice fait partie du cours

Optimisation des hyperparamètres en R

Afficher le cours

Instructions

Définissez un objet de critères de recherche qui spécifie une recherche aléatoire avec un temps d’exécution maximum de 10 secondes.
Ajoutez cet objet de critères de recherche à l’endroit approprié dans la fonction h2o.grid pour entraîner les modèles aléatoires.

Exercice interactif pratique

Essayez cet exercice en complétant cet exemple de code.

# Define search criteria
search_criteria <- list(strategy = ___, 
                        ___ = 10, # this is way too short & only used to keep runtime short!
                        seed = 42)

# Train with random search
dl_grid <- h2o.grid("deeplearning", 
                    grid_id = "dl_grid",
                    x = x, 
                    y = y,
                    training_frame = train,
                    validation_frame = valid,
                    seed = 42,
                    hyper_params = dl_params,
                    ___ = ___)

Modifier et exécuter le code

Cet exercice fait partie du cours

Optimisation des hyperparamètres en R

AvancéNiveau de compétence

4.8+

Commencer le cours gratuitement

Pourquoi utilise-t-on ce terme étrange « hyperparamètre » ? Qu’a-t-il d’« hyper » ? Ici, vous comprendrez ce que sont les paramètres d’un modèle et en quoi ils diffèrent des hyperparamètres en Machine Learning. Vous verrez ensuite pourquoi nous souhaitons les optimiser et comment la configuration par défaut de caret inclut automatiquement une optimisation des hyperparamètres.

Exercise 1: Paramètres vs hyperparamètres Exercise 2: Paramètres du modèle vs hyperparamètres Exercise 3: Hyperparamètres dans les modèles linéaires Exercise 4: Quels sont les coefficients ?Exercise 5: Rappel des bases du Machine Learning Exercise 6: Machine Learning avec caret Exercise 7: Schémas de rééchantillonnage Exercise 8: Ajustement des hyperparamètres avec caret Exercise 9: Hyperparamètres dans le Stochastic Gradient Boosting Exercise 10: Modifier le nombre d’hyperparamètres à ajuster Exercise 11: Ajuster les hyperparamètres manuellement

Dans ce chapitre, vous apprendrez à optimiser des hyperparamètres avec une grille cartésienne. Vous mettrez ensuite en œuvre des approches plus rapides et plus efficaces. Vous utiliserez la recherche aléatoire et le rééchantillonnage adaptatif pour explorer la grille de paramètres, en concentrant la recherche sur les valeurs proches des réglages optimaux.

Exercise 1: Réglage des hyperparamètres avec caret Exercise 2: Identifier les hyperparamètres Exercise 3: Recherche en grille cartésienne avec caret Exercise 4: Tracer la sortie du modèle d’hyperparamètres Exercise 5: Recherche par grille vs recherche aléatoire Exercise 6: Recherche par grille avec des plages d’hyperparamètres Exercise 7: Trouver l’option de train() pour la recherche aléatoire Exercise 8: Recherche aléatoire avec caret Exercise 9: Rééchantillonnage adaptatif Exercise 10: Avantages de l’Adaptive Resampling Exercise 11: Rééchantillonnage adaptatif avec caret

Ici, vous utiliserez un autre package de Machine Learning qui propose des fonctions très pratiques pour l’optimisation des hyperparamètres. Vous définirez une grille cartésienne ou effectuerez une recherche aléatoire, ainsi que des techniques avancées. Vous découvrirez aussi différentes manières de visualiser et d’évaluer des modèles selon leurs hyperparamètres.

Exercise 1: Machine Learning avec mlr Exercise 2: Machine Learning avec mlr Exercise 3: Modéliser avec mlr Exercise 4: Recherche par grille et aléatoire avec mlr Exercise 5: Recherche aléatoire avec mlr Exercise 6: Réaliser un réglage d’hyperparamètres avec mlr Exercise 7: Évaluer les hyperparamètres avec mlr Exercise 8: Pourquoi évaluer l’optimisation ?Exercise 9: Évaluer les résultats d’un réglage d’hyperparamètres Exercise 10: Ajustements avancés avec mlr Exercise 11: Définir des contrôles d’optimisation avancés Exercise 12: Définir des mesures agrégées Exercise 13: Définir des hyperparamètres

Dans ce dernier chapitre, vous utiliserez h2o, un autre package de Machine Learning offrant des fonctions très pratiques pour l’optimisation des hyperparamètres. Vous l’utiliserez pour entraîner différents modèles et définir une grille cartésienne. Ensuite, vous effectuerez une recherche aléatoire avec des critères d’arrêt. Enfin, vous découvrirez AutoML, une interface h2o qui permet une optimisation très rapide et pratique des modèles et de leurs hyperparamètres avec une seule fonction.

Exercise 1: Machine Learning avec h2o Exercise 2: Préparer les données pour le modélisation avec h2o Exercise 3: Modéliser avec h2o Exercise 4: Recherche par grille et aléatoire avec h2o Exercise 5: Recherche par grille avec h2o Exercise 6: Recherche aléatoire avec h2o

Exercice en cours

Exercise 7: Critères d’arrêt Exercise 8: Machine Learning automatique avec H2O Exercise 9: AutoML avec h2o Exercise 10: Évaluer le leaderboard Exercise 11: Extraire des modèles h2o et évaluer les performances Exercise 12: Conclusion