1. 学ぶ
    2. /
  2. コース
    3. /
  3. PyTorchで学ぶIntroduction to Deep Learning
Connected

演習

ランダムサーチの実装

ハイパーパラメータ探索は、さまざまなハイパーパラメータ値を試すための計算コストが高い手法ですが、性能向上につながることがあります。この演習では、ランダムサーチアルゴリズムを実装します。

一様分布から学習率とモメンタムの値をそれぞれ10個ずつランダムにサンプリングします。そのために、np.random.uniform() 関数を使用します。

numpy パッケージはすでに np としてインポート済みで、結果を可視化するための plot_hyperparameter_search() 関数も用意されています。

指示

100 XP
  • 2 から 4 の間で学習率の指数をランダムサンプリングし、学習率（lr）が \(10^{-2}\) から \(10^{-4}\) の範囲になるようにします。
  • モメンタムを 0.85 から 0.99 の間でランダムにサンプリングします。