Slumpmässigt urval av hyperparametrar
För att genomföra en slumpsökning behöver vi först göra ett slumpmässigt urval från vårt hyperparameterrum.
I den här övningen skapar du listor med hyperparametrar som sedan slås samman till en lista av listor. Därefter väljer du slumpmässigt ut kombinationer av hyperparametrar inför en slumpsökning.
Du använder bara hyperparametrarna learning_rate och min_samples_leaf i GBM-algoritmen för att hålla exemplet tydligt och hanterbart.
Den här övningen är en del av kursen
Hyperparameterjustering i Python
Övningsinstruktioner
- Skapa en lista med 200 värden för hyperparametern
learning_ratemellan 0,01 och 1,5 och tilldela den till listanlearn_rate_list. - Skapa en lista med värden mellan 10 och 40 (inklusive) för hyperparametern
min_samples_leafoch tilldela den till listanmin_samples_list. - Kombinera dessa listor till en lista av listor att sampla från.
- Välj slumpmässigt ut 250 modeller från dessa hyperparameterkombinationer och skriv ut resultatet.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
# Create a list of values for the learning_rate hyperparameter
learn_rate_list = list(np.____(____,____,____))
# Create a list of values for the min_samples_leaf hyperparameter
min_samples_list = list(____(____,____))
# Combination list
combinations_list = [list(x) for x in ____(____, min_samples_list)]
# Sample hyperparameter combinations for a random search.
random_combinations_index = np.____(range(0, len(____)), ____, replace=False)
combinations_random_chosen = [combinations_list[x] for x in ____]
# Print the result
print(____)