Thay đổi kích thước batch
Bạn đã thấy các mô hình thường được huấn luyện theo từng batch với kích thước cố định. Batch càng nhỏ thì số lần cập nhật trọng số mỗi epoch càng nhiều, nhưng phải đánh đổi bằng việc giảm dốc (gradient descent) kém ổn định hơn, đặc biệt nếu batch quá nhỏ và không đại diện cho toàn bộ tập huấn luyện.
Hãy xem các kích thước batch khác nhau ảnh hưởng thế nào đến độ chính xác của một mô hình phân loại nhị phân đơn giản dùng để tách các điểm đỏ và xanh.
Bạn sẽ dùng batch size bằng 1, cập nhật trọng số sau mỗi mẫu trong tập huấn luyện cho mỗi epoch. Sau đó, bạn sẽ dùng toàn bộ tập dữ liệu, chỉ cập nhật trọng số một lần mỗi epoch.
Bài tập này là một phần của khóa học
Nhập môn Deep Learning với Keras
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
# Get a fresh new model with get_model
model = ____
# Train your model for 5 epochs with a batch size of 1
model.fit(X_train, y_train, epochs=____, ____=____)
print("\n The accuracy when using a batch of size 1 is: ",
model.evaluate(X_test, y_test)[1])