Các tầng ẩn và tham số

Create Your Free Account

or

By continuing, you accept our Terms of Use, our Privacy Policy and that your data is stored in the USA.

Bài tập này là một phần của khóa học

Nhập môn Deep Learning với PyTorch

SkillTag.level.intermediateSkillTag.label

4.8+

4616 reviews

Bắt đầu khóa học miễn phí

Xe tự lái, điện thoại thông minh, công cụ tìm kiếm... Deep learning hiện diện ở khắp nơi. Trước khi bạn bắt đầu xây dựng các mô hình phức tạp, hãy làm quen với PyTorch, một framework deep learning. Bạn sẽ học cách thao tác với tensor, tạo cấu trúc dữ liệu của PyTorch, và xây dựng mạng nơ-ron đầu tiên trong PyTorch với các lớp tuyến tính.

Exercise 1: Giới thiệu về deep learning với PyTorch Exercise 2: Bắt đầu với tensor trong PyTorch Exercise 3: Kiểm tra và cộng các tensor Exercise 4: Mạng nơ-ron và các lớp Exercise 5: Mạng với tầng tuyến tính Exercise 6: Tìm hiểu về trọng số Exercise 7: Các tầng ẩn và tham số

Bài tập hiện tại

Exercise 8: Mạng nơ-ron đầu tiên của bạn Exercise 9: Xếp chồng các lớp tuyến tính Exercise 10: Đếm số lượng tham số

Để huấn luyện một mạng nơ-ron trong PyTorch, trước hết bạn cần hiểu các thành phần bổ sung như hàm kích hoạt và hàm mất mát. Sau đó, bạn sẽ thấy rằng việc huấn luyện mạng đòi hỏi phải tối thiểu hóa hàm mất mát đó bằng cách tính gradient. Bạn sẽ học cách dùng các gradient này để cập nhật tham số của mô hình.

Exercise 1: Khám phá hàm kích hoạt Exercise 2: Kích hoạt sự hiểu biết của bạn!Exercise 3: Hàm sigmoid và softmax Exercise 4: Chạy một lượt truyền tiến Exercise 5: Xây dựng bộ phân loại nhị phân trong PyTorch Exercise 6: Từ hồi quy sang phân loại đa lớp Exercise 7: Dùng hàm loss để đánh giá dự đoán của mô hình Exercise 8: Tạo nhãn one-hot Exercise 9: Tính cross-entropy loss Exercise 10: Dùng đạo hàm để cập nhật tham số mô hình Exercise 11: Truy cập các tham số của mô hình Exercise 12: Cập nhật trọng số thủ công Exercise 13: Sử dụng bộ tối ưu hóa của PyTorch

Giờ bạn đã nắm các thành phần chính của mạng nơ-ron, hãy huấn luyện một mạng bằng vòng lặp huấn luyện. Bạn sẽ khám phá các vấn đề tiềm ẩn như gradient tiêu biến và học các chiến lược khắc phục, chẳng hạn dùng hàm kích hoạt thay thế và tinh chỉnh tốc độ học cùng động lượng.

Exercise 1: Tìm hiểu sâu hơn về cách nạp dữ liệu Exercise 2: Sử dụng TensorDataset Exercise 3: Sử dụng DataLoader Exercise 4: Viết vòng lặp huấn luyện đầu tiên của chúng ta Exercise 5: Sử dụng MSELoss Exercise 6: Viết một vòng lặp huấn luyện Exercise 7: Hàm kích hoạt ReLU Exercise 8: Triển khai ReLU Exercise 9: Triển khai leaky ReLU Exercise 10: Tìm hiểu hàm kích hoạt Exercise 11: Tốc độ học và momentum Exercise 12: Thử nghiệm với learning rate Exercise 13: Thử nghiệm với momentum

Huấn luyện một mô hình deep learning là một nghệ thuật, và để đảm bảo mô hình được huấn luyện đúng cách, chúng ta cần theo dõi một số chỉ số trong quá trình huấn luyện, như loss hoặc accuracy. Chúng ta sẽ học cách tính các chỉ số này và cách giảm overfitting.

Exercise 1: Khởi tạo tầng và học chuyển giao Exercise 2: Quy trình fine-tuning Exercise 3: Đóng băng các lớp của một mô hình Exercise 4: Khởi tạo tầng Exercise 5: Đánh giá hiệu suất mô hình Exercise 6: Viết vòng lặp đánh giá Exercise 7: Tính độ chính xác với torchmetrics Exercise 8: Chống overfitting Exercise 9: Thử nghiệm với dropout Exercise 10: Hiểu về overfitting Exercise 11: Cải thiện hiệu suất mô hình Exercise 12: Triển khai random search Exercise 13: Video tổng kết