Eșantionare aleatorie a hiperparametrilor
Pentru a efectua o căutare aleatorie, trebuie mai întâi să eșantionăm aleatoriu spațiul hiperparametrilor.
În acest exercițiu, vei crea mai întâi câteva liste de hiperparametri pe care le vei combina într-o listă de liste. Apoi vei eșantiona aleatoriu combinații de hiperparametri, pregătindu-te astfel pentru rularea unei căutări aleatoare.
Vei folosi doar hiperparametrii learning_rate și min_samples_leaf ai algoritmului GBM, pentru ca exemplul să rămână clar și ușor de urmărit.
Acest exercițiu face parte din cursul
Ajustarea hiperparametrilor în Python
Instrucțiuni pentru exercițiu
- Creează o listă de 200 de valori pentru hiperparametrul
learning_rate, cuprinse între 0,01 și 1,5, și asign-o listeilearn_rate_list. - Creează o listă de valori între 10 și 40 inclusiv pentru hiperparametrul
min_samples_leafși asign-o listeimin_samples_list. - Combină aceste liste într-o listă de liste din care să eșantionezi.
- Eșantionează aleatoriu 250 de modele din aceste combinații de hiperparametri și afișează rezultatul.
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
# Create a list of values for the learning_rate hyperparameter
learn_rate_list = list(np.____(____,____,____))
# Create a list of values for the min_samples_leaf hyperparameter
min_samples_list = list(____(____,____))
# Combination list
combinations_list = [list(x) for x in ____(____, min_samples_list)]
# Sample hyperparameter combinations for a random search.
random_combinations_index = np.____(range(0, len(____)), ____, replace=False)
combinations_random_chosen = [combinations_list[x] for x in ____]
# Print the result
print(____)