PyTorch のオプティマイザを使う

これまでに、ネットワークの重みを手動で更新して、トレーニングが裏側でどのように動いているかを体験しました。ただし、この方法は多層のディープネットワークにはスケールしません。

幸い、PyTorch には SGD オプティマイザが用意されており、数行のコードでこの処理を効率的に自動化できます。ここでは、PyTorch のオプティマイザを使って重みを更新し、トレーニングループを完成させます。

ニューラルネットワークは model という変数として用意されています。このモデルでフォワードパスを実行し、予測のテンソル pred を作成済みです。ワンホットエンコードされたテンソルは target、クロスエントロピー損失関数は criterion に格納されています。

torch.optim は optim、torch.nn は nn としてすでにインポートされています。