Grid e Random Search a confronto

Visualizzare insieme lo spazio di ricerca di random e grid search ti permette di vedere facilmente la copertura di ciascuna tecnica e, quindi, dà vita ai loro specifici vantaggi e svantaggi.

In questo esercizio, campionerai combinazioni di iperparametri sia in stile grid search sia in stile random search, poi le traccerai per vedere la differenza.

Avrai a disposizione:

• combinations_list, un elenco di combinazioni di learn_rate e min_samples_leaf per questo algoritmo
• La funzione visualize_search() che trasforma le tue combinazioni di iperparametri in coordinate X e Y e traccia sullo stesso grafico sia le combinazioni della grid search sia quelle della random search. Accetta in input due liste di combinazioni di iperparametri.

Se vuoi visualizzare la definizione della funzione visualize_search(), puoi eseguire questo codice:

import inspect
print(inspect.getsource(visualize_search))