1. Học hỏi
    2. /
  2. Khoa Học
    3. /
  3. Nhập môn TensorFlow bằng Python
Connected

Bài tập

Phát hiện overfitting

Trong bài tập này, chúng ta sẽ làm việc với một tập con nhỏ của bộ dữ liệu chữ cái ngôn ngữ ký hiệu gốc. Mẫu nhỏ, kết hợp với mô hình có rất nhiều tham số, thường sẽ dẫn đến overfitting. Điều này có nghĩa là mô hình của bạn chỉ ghi nhớ lớp của từng ví dụ thay vì nhận diện các đặc trưng có thể khái quát cho nhiều ví dụ.

Bạn sẽ phát hiện overfitting bằng cách kiểm tra xem loss trên mẫu validation có cao hơn đáng kể so với loss trên mẫu huấn luyện hay không, và liệu nó có tăng lên khi tiếp tục huấn luyện không. Với mẫu nhỏ và tốc độ học cao, mô hình sẽ khó hội tụ về nghiệm tối ưu. Bạn sẽ đặt tốc độ học thấp cho optimizer để dễ nhận diện overfitting hơn.

Lưu ý rằng keras đã được import từ tensorflow.

Hướng dẫn

100 XP
  • Định nghĩa một mô hình tuần tự trong keras tên là model.
  • Thêm lớp dense đầu tiên với 1024 nút, kích hoạt relu, và input shape là (784,).
  • Đặt tốc độ học là 0.001.
  • Thiết lập thao tác fit() lặp qua toàn bộ mẫu 50 lần và dùng 50% mẫu để validation.