Использование оптимизатора PyTorch
Ранее вы вручную обновляли веса сети, разобравшись в том, как обучение работает изнутри. Однако такой подход не масштабируется для глубоких сетей с большим количеством слоёв.
К счастью, PyTorch предоставляет оптимизатор SGD, который автоматизирует этот процесс всего в нескольких строках кода. Теперь вам предстоит завершить цикл обучения, обновив веса с помощью оптимизатора PyTorch.
Нейронная сеть уже создана и доступна как переменная model. С её помощью был выполнен прямой проход и получен тензор предсказаний pred. Тензор в формате унитарного кодирования называется target, а функция потерь на основе кросс-энтропии хранится в переменной criterion.
torch.optim под именем optim и torch.nn под именем nn уже импортированы.
Это упражнение является частью курса
Введение в глубокое обучение с PyTorch
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
# Create the optimizer
optimizer = ____