1. Học hỏi
    2. /
  2. Khoa Học
    3. /
  3. Nhập môn Deep Learning với PyTorch
Connected

Bài tập

Cập nhật trọng số thủ công

Giờ bạn đã biết cách truy cập trọng số và độ chệch, bạn sẽ tự tay làm công việc của bộ tối ưu hóa trong PyTorch. Dù PyTorch tự động hóa bước này, việc luyện tập thủ công giúp bạn hình dung rõ hơn cách mô hình học và điều chỉnh. Hiểu biết này rất hữu ích khi bạn gỡ lỗi hoặc tinh chỉnh mạng nơ-ron.

Một mạng nơ-ron 3 tầng đã được tạo và lưu trong biến model. Mạng này đã được chạy forward pass, và loss cùng các đạo hàm của nó đã được tính. Một tốc độ học mặc định, lr, đã được chọn để nhân với gradient khi cập nhật.

Hướng dẫn 1/2

undefined XP
    1
    2
  • Tạo các biến gradient bằng cách truy cập gradient cục bộ của từng tensor trọng số.