Automatizace výběru hyperparametrů
Najít nejlepší hodnotu hyperparametru, aniž bys musel/a psát stovky řádků kódu pro stovky modelů, je zásadní úspora času, která ti výrazně usnadní budování modelů strojového učení v budoucnu.
Důležitým hyperparametrem algoritmu GBM je learning rate. Ale která hodnota je pro tento problém nejlepší? Napíšeš smyčku, která projde několik možností, výsledky porovnáš a vyberou nejlepší.
Možné hodnoty learning rate k vyzkoušení jsou: 0.001, 0.01, 0.05, 0.1, 0.2 a 0.5
Máš k dispozici datasety X_train, X_test, y_train a y_test a GradientBoostingClassifier je již naimportován.
Toto cvičení je součástí kurzu
Hyperparameter Tuning in Python
Pokyny k cvičení
- Vytvoř seznam
learning_ratess hodnotami learning rate a seznamresults_listpro ukládání skóre přesnosti předpovědí. - Napiš smyčku, která pro každou hodnotu learning rate vytvoří model GBM a vygeneruje předpovědi.
- Ulož hodnotu learning rate a skóre přesnosti do
results_list. - Převeď seznam výsledků na DataFrame a vypiš ho.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
# Set the learning rates & results storage
learning_rates = ____
results_list = ____
# Create the for loop to evaluate model predictions for each learning rate
for learning_rate in ____:
model = ____(learning_rate=____)
predictions = ____.fit(____, ____).predict(____)
# Save the learning rate and accuracy score
results_list.append([____, accuracy_score(y_test, ____)])
# Gather everything into a DataFrame
results_df = pd.DataFrame(____, columns=['learning_rate', 'accuracy'])
print(results_df)