Sử dụng bộ tối ưu hóa của PyTorch

Trước đó, bạn đã tự cập nhật trọng số của một mạng, qua đó hiểu cách quá trình huấn luyện diễn ra phía sau hậu trường. Tuy nhiên, cách làm này không thể mở rộng cho các mạng sâu với nhiều tầng.

May mắn là PyTorch cung cấp bộ tối ưu hóa SGD, tự động hóa quy trình này chỉ với vài dòng mã. Giờ bạn sẽ hoàn thiện vòng lặp huấn luyện bằng cách cập nhật trọng số với một bộ tối ưu hóa của PyTorch.

Một mạng neural đã được tạo và gán vào biến model. Mô hình này đã được chạy forward pass để tạo tensor dự đoán pred. Tensor one-hot được đặt tên là target và hàm mất mát cross entropy được lưu trong criterion.

torch.optim dưới tên optim, và torch.nn dưới tên nn đã được nạp sẵn cho bạn.