随机抽样超参数
要进行随机搜索,首先需要在超参数空间中随机抽样。
本练习中,您将先创建一些超参数列表,之后把它们压缩组合成列表的列表。然后,您将随机抽取超参数组合,为运行随机搜索做准备。
为了示例清晰且不过度复杂,您将仅使用 GBM 算法的超参数 learning_rate 和 min_samples_leaf。
本练习是课程的一部分
Python 中的超参数调优
练习说明
- 为超参数
learning_rate在 0.01 到 1.5 之间创建包含 200 个值的列表,并赋给列表learn_rate_list。 - 为超参数
min_samples_leaf创建一个包含 10 到 40(含)之间取值的列表,并赋给列表min_samples_list。 - 将这些列表合并为一个可用于抽样的列表的列表。
- 从这些超参数组合中随机抽取 250 个模型,并打印结果。
交互式实操练习
通过完成这段示例代码来试试这个练习。
# Create a list of values for the learning_rate hyperparameter
learn_rate_list = list(np.____(____,____,____))
# Create a list of values for the min_samples_leaf hyperparameter
min_samples_list = list(____(____,____))
# Combination list
combinations_list = [list(x) for x in ____(____, min_samples_list)]
# Sample hyperparameter combinations for a random search.
random_combinations_index = np.____(range(0, len(____)), ____, replace=False)
combinations_random_chosen = [combinations_list[x] for x in ____]
# Print the result
print(____)