Crea funzioni per la Grid Search

Nel campo della data science è un'ottima idea provare a costruire algoritmi, modelli e processi "da zero" per capire davvero cosa succede a un livello più profondo. Certo, esistono ottimi package e librerie per questo lavoro (e ci arriveremo molto presto!), ma costruire da zero ti darà un grande vantaggio nel tuo lavoro di data science.

In questo esercizio creerai una funzione che prende 2 iperparametri, costruisce i modelli e restituisce i risultati. Userai questa funzione in un esercizio successivo.

Avrai a disposizione gli insiemi di dati X_train, X_test, y_train e y_test.

Questo esercizio fa parte del corso

Ottimizzazione degli iperparametri in Python

Visualizza corso

Istruzioni dell'esercizio

Crea una funzione che accetti due parametri chiamati learning_rate e max_depth, rispettivamente per il learning rate e la profondità massima.
Aggiungi alla funzione la capacità di costruire un modello GBM e adattarlo ai dati usando gli iperparametri in input.
Fai in modo che la funzione restituisca i risultati di quel modello e gli iperparametri scelti (learning_rate e max_depth).

esercizio interattivo pratico

Prova questo esercizio completando questo codice di esempio.

# Create the function
def gbm_grid_search(____, ____):

	# Create the model
    model = GradientBoostingClassifier(____=___, ____=____)
    
    # Use the model to make predictions
    predictions = model.fit(____, ____).predict(____)
    
    # Return the hyperparameters and score
    return([____, ____, accuracy_score(____, ____)])

Modifica ed esegui il codice

Questo esercizio fa parte del corso

Ottimizzazione degli iperparametri in Python

IntermediárioNível de habilidade

4.9+

Inizia il corso gratuitamente

In questo capitolo introduttivo imparerai la differenza tra iperparametri e parametri. Farai pratica nell’estrazione e analisi dei parametri e nell’impostare i valori degli iperparametri per diversi algoritmi di Machine Learning popolari. Lungo il percorso scoprirai consigli pratici e trucchi su quali iperparametri ottimizzare, quali valori provare e come costruire learning curve per analizzare le tue scelte.

Exercise 1: Introduzione e "Parametri"Exercise 2: Parametri nella Regressione Logistica Exercise 3: Estrazione di un parametro della Logistic Regression Exercise 4: Estrarre un parametro di Random Forest Exercise 5: Introduzione agli iperparametri Exercise 6: Iperparametri nei Random Forest Exercise 7: Esplorare gli iperparametri di Random Forest Exercise 8: Iperparametri di KNN Exercise 9: Impostare e analizzare i valori degli iperparametri Exercise 10: Automatizzare la scelta degli iperparametri Exercise 11: Costruire le learning curve

Questo capitolo ti presenta una metodologia molto usata per l’ottimizzazione automatica degli iperparametri chiamata Grid Search. Imparerai cos’è, come funziona e farai pratica a eseguire una Grid Search con Scikit Learn. Vedrai poi come analizzare l’output di una Grid Search e farai esperienza pratica nel farlo.

Exercise 1: Introduzione a Grid Search Exercise 2: Crea funzioni per la Grid Search

Esercizio attuale

Exercise 3: Ottimizza iterativamente più iperparametri Exercise 4: Quanti modelli?Exercise 5: Grid Search con Scikit Learn Exercise 6: Input di GridSearchCV Exercise 7: GridSearchCV con Scikit Learn Exercise 8: Capire l'output di una grid search Exercise 9: Usare i migliori risultati Exercise 10: Esplorare i risultati della grid search Exercise 11: Analizzare i risultati migliori Exercise 12: Usare i risultati migliori

In questo capitolo ti verrà presentata un’altra metodologia molto diffusa per l’ottimizzazione automatica degli iperparametri chiamata Random Search. Imparerai cos’è, come funziona e, soprattutto, in cosa differisce dalla grid search. Vedrai vantaggi e svantaggi di questo metodo e quando preferirlo rispetto alla Grid Search. Farai pratica a eseguire una Random Search con Scikit Learn e a visualizzare e interpretare l’output.

Exercise 1: Introduzione al Random Search Exercise 2: Campiona casualmente gli iperparametri Exercise 3: Ricerca casuale con Random Forest Exercise 4: Visualizzare una Random Search Exercise 5: Random Search in Scikit Learn Exercise 6: Input di RandomSearchCV Exercise 7: L'oggetto RandomizedSearchCV Exercise 8: RandomizedSearchCV in Scikit Learn Exercise 9: Confrontare Grid Search e Random Search Exercise 10: Confronto tra Random Search e Grid Search Exercise 11: Grid e Random Search a confronto

In questo capitolo finale assaggerai metodologie più avanzate di ottimizzazione degli iperparametri note come "informed search". Questo include un approccio detto Coarse To Fine e algoritmi di ottimizzazione Bayesiani e Genetici. Imparerai come l’informed search differisce dalla uninformed search e acquisirai abilità pratiche con ciascuna metodologia citata, confrontandole lungo il percorso.

Exercise 1: Ricerca informata: dal grossolano al fine Exercise 2: Visualizzare Coarse to Fine Exercise 3: Iterazioni Coarse to Fine Exercise 4: Ricerca informata: statistica bayesiana Exercise 5: La regola di Bayes in Python Exercise 6: Tuning bayesiano degli iperparametri con Hyperopt Exercise 7: Informed Search: Algoritmi genetici Exercise 8: Ottimizzazione genetica degli iperparametri con TPOT Exercise 9: Analizzare la stabilità di TPOT Exercise 10: Congratulazioni!