PyTorch 옵티마이저 사용하기

이전에 신경망의 가중치를 수동으로 업데이트하면서, 학습이 내부적으로 어떻게 진행되는지 살펴봤어요. 하지만 이 방식은 층이 많은 딥 네트워크에는 확장하기 어렵습니다.

다행히 PyTorch에는 이 과정을 몇 줄의 코드로 자동화하는 SGD 옵티마이저가 있습니다. 이제 PyTorch 옵티마이저를 사용해 가중치를 업데이트하며 학습 루프를 완성해 보겠습니다.

신경망은 model 변수로 생성되어 제공되었습니다. 이 모델로 forward pass를 실행해 예측 텐서 pred를 만들었고, 원-핫 인코딩된 텐서는 target, 교차 엔트로피 손실 함수는 criterion에 저장되어 있어요.

torch.optim은 optim, torch.nn은 nn으로 이미 임포트되어 있습니다.