Modificare il numero di iperparametri da ottimizzare

Se esaminiamo da vicino l’oggetto del modello, possiamo vedere che caret ha già fatto un po’ di ottimizzazione automatica degli iperparametri per noi: train crea automaticamente una griglia di parametri di ottimizzazione. Per impostazione predefinita, se p è il numero di parametri di ottimizzazione, la dimensione della griglia è 3^p. Ma possiamo anche specificare il numero di valori diversi da provare per ciascun iperparametro.

I dati sono stati nuovamente precaricati come bc_train_data. Le librerie caret e tictoc sono state anch’esse precaricate.

Questo esercizio fa parte del corso

Ottimizzazione degli iperparametri in R

Visualizza corso

Istruzioni dell'esercizio

Prova quattro valori diversi per ciascun iperparametro con l’ottimizzazione automatica in caret.

esercizio interattivo pratico

Prova questo esercizio completando questo codice di esempio.

# Set seed.
set.seed(42)
# Start timer.
tic()
# Train model.
gbm_model <- train(diagnosis ~ ., 
                   data = bc_train_data, 
                   method = "gbm", 
                   trControl = trainControl(method = "repeatedcv", number = 5, repeats = 3),
                   verbose = FALSE,
                   ___)
# Stop timer.
toc()

Modifica ed esegui il codice

Questo esercizio fa parte del corso

Ottimizzazione degli iperparametri in R

AvançadoNível de habilidade

4.8+

Inizia il corso gratuitamente

Perché usiamo la strana parola “iperparametro”? Cosa lo rende “iper”? Qui capirai cosa sono i parametri di un modello e perché sono diversi dagli iperparametri nel Machine Learning. Vedrai poi perché conviene ottimizzarli e come l’impostazione predefinita di caret includa automaticamente il tuning degli iperparametri.

Exercise 1: Parametri vs iperparametri Exercise 2: Parametri del modello vs. iperparametri Exercise 3: Iperparametri nei modelli lineari Exercise 4: Quali sono i coefficienti?Exercise 5: Ripasso dei fondamenti di Machine Learning Exercise 6: Machine learning con caret Exercise 7: Schemi di ricampionamento Exercise 8: Ottimizzazione degli iperparametri in caret Exercise 9: Iperparametri nello Stochastic Gradient Boosting Exercise 10: Modificare il numero di iperparametri da ottimizzare

Esercizio attuale

Exercise 11: Sintonizza manualmente gli iperparametri

In questo capitolo imparerai a ottimizzare gli iperparametri con una griglia cartesiana. Poi passerai ad approcci più veloci ed efficienti. Userai la Random Search e il ricampionamento adattivo per esplorare la griglia dei parametri, concentrandoti sui valori più vicini alle impostazioni ottimali.

Exercise 1: Ottimizzazione degli iperparametri con caret Exercise 2: Trovare gli iperparametri Exercise 3: Ricerca a griglia cartesiana in caret Exercise 4: Rappresenta graficamente l'output del modello con iperparametri Exercise 5: Grid vs. Random Search Exercise 6: Grid search con intervalli di iperparametri Exercise 7: Trova l'opzione di train() per la random search Exercise 8: Random search con caret Exercise 9: Ricampionamento adattivo Exercise 10: Vantaggi dell'Adaptive Resampling Exercise 11: Adaptive Resampling con caret

Qui userai un altro pacchetto per il Machine Learning che offre funzioni molto pratiche per il tuning degli iperparametri. Definirai una griglia cartesiana o eseguirai una Random Search, oltre a tecniche avanzate. Imparerai anche diversi modi per visualizzare e valutare modelli con iperparametri differenti.

Exercise 1: Machine Learning con mlr Exercise 2: Machine Learning con mlr Exercise 3: Modeling con mlr Exercise 4: Grid e random search con mlr Exercise 5: Random search con mlr Exercise 6: Esegui l'hyperparameter tuning con mlr Exercise 7: Valutare gli iperparametri con mlr Exercise 8: Perché valutare il tuning?Exercise 9: Valutare i risultati del tuning degli iperparametri Exercise 10: Ottimizzazione avanzata con mlr Exercise 11: Definisci controlli di tuning avanzati Exercise 12: Definisci misure aggregate Exercise 13: Impostare gli iperparametri

In questo capitolo finale userai h2o, un altro pacchetto per il Machine Learning con funzioni molto comode per l’ottimizzazione degli iperparametri. Lo userai per addestrare modelli diversi e definire una griglia cartesiana. Poi implementerai una Random Search usando criteri di arresto. Infine, scoprirai AutoML, un’interfaccia di h2o che permette un tuning rapidissimo e pratico di modelli e iperparametri con una sola funzione.

Exercise 1: Machine Learning con h2o Exercise 2: Prepara i dati per il modelling con h2o Exercise 3: Creare modelli con h2o Exercise 4: Grid e random search con h2o Exercise 5: Ricerca a griglia con h2o Exercise 6: Ricerca casuale con h2o Exercise 7: Criteri di arresto Exercise 8: Machine learning automatico con H2O Exercise 9: AutoML in h2o Exercise 10: Valutare la leaderboard Exercise 11: Estrai i modelli h2o e valuta le prestazioni Exercise 12: Riepilogo