Случайная выборка гиперпараметров
Для выполнения случайного поиска сначала необходимо провести случайную выборку из пространства гиперпараметров.
В этом упражнении вы создадите несколько списков гиперпараметров, которые можно объединить в список списков. Затем вы случайным образом выберете комбинации гиперпараметров — это подготовит вас к запуску случайного поиска.
Для наглядности мы ограничимся только двумя гиперпараметрами алгоритма GBM: learning_rate и min_samples_leaf.
Это упражнение является частью курса
Подбор гиперпараметров в Python
Инструкции к упражнению
- Создайте список из 200 значений гиперпараметра
learning_rateв диапазоне от 0.01 до 1.5 и сохраните его в переменнуюlearn_rate_list. - Создайте список значений гиперпараметра
min_samples_leafв диапазоне от 10 до 40 включительно и сохраните его в переменнуюmin_samples_list. - Объедините эти списки в список списков для последующей выборки.
- Случайным образом выберите 250 моделей из этих комбинаций гиперпараметров и выведите результат.
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
# Create a list of values for the learning_rate hyperparameter
learn_rate_list = list(np.____(____,____,____))
# Create a list of values for the min_samples_leaf hyperparameter
min_samples_list = list(____(____,____))
# Combination list
combinations_list = [list(x) for x in ____(____, min_samples_list)]
# Sample hyperparameter combinations for a random search.
random_combinations_index = np.____(range(0, len(____)), ____, replace=False)
combinations_random_chosen = [combinations_list[x] for x in ____]
# Print the result
print(____)