Випадкове вибіркове задання гіперпараметрів
Щоб виконати random search, спершу потрібно випадково відібрати значення з простору гіперпараметрів.
У цій вправі ви спочатку створите кілька списків гіперпараметрів, які можна об'єднати (zip) в список списків. Далі ви випадково виберете комбінації гіперпараметрів, щоб підготуватися до запуску random search.
Щоб приклад був наочним і не надто складним, ви використаєте лише гіперпараметри learning_rate і min_samples_leaf алгоритму GBM.
Ця вправа є частиною курсу
Тюнінг гіперпараметрів у Python
Інструкції до вправи
- Створіть список із 200 значень для гіперпараметра
learning_rateу межах від 0,01 до 1,5 та присвойте його спискуlearn_rate_list. - Створіть список значень від 10 до 40 включно для гіперпараметра
min_samples_leafта присвойте його спискуmin_samples_list. - Об'єднайте ці списки у список списків, з якого виконуватиметься вибірка.
- Випадково виберіть 250 моделей із цих комбінацій гіперпараметрів і виведіть результат.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Create a list of values for the learning_rate hyperparameter
learn_rate_list = list(np.____(____,____,____))
# Create a list of values for the min_samples_leaf hyperparameter
min_samples_list = list(____(____,____))
# Combination list
combinations_list = [list(x) for x in ____(____, min_samples_list)]
# Sample hyperparameter combinations for a random search.
random_combinations_index = np.____(range(0, len(____)), ____, replace=False)
combinations_random_chosen = [combinations_list[x] for x in ____]
# Print the result
print(____)