使用 PyTorch 的最佳化器
先前你手動更新了網路的權重,藉此更了解訓練在幕後如何運作。不過,對於包含許多層的深度網路,這種方式無法擴充。
所幸,PyTorch 提供了 SGD 最佳化器,只要幾行程式碼就能有效自動化這個流程。現在,你將使用 PyTorch 的最佳化器來更新權重,完成訓練迴圈。
已建立一個神經網路並以變數 model 提供。此模型已執行 forward pass,並產生預測張量 pred。目標張量採用 one-hot 編碼,名稱為 target,而交叉熵損失函式則儲存在 criterion。
torch.optim 已以 optim 載入,torch.nn 已以 nn 載入供你使用。
本練習屬於課程