So sánh các hàm kích hoạt
So sánh các hàm kích hoạt cần một chút mã, nhưng bạn hoàn toàn làm được!
Bạn sẽ thử nhiều hàm kích hoạt khác nhau trên mô hình đa nhãn mà bạn đã xây dựng cho máy tưới tiêu ở chương 2. Hàm get_model('relu') trả về một bản sao của mô hình này và áp dụng hàm kích hoạt 'relu' cho tầng ẩn.
Bạn sẽ lặp qua một số hàm kích hoạt, tạo một mô hình mới cho mỗi hàm và huấn luyện nó. Bằng cách lưu đối tượng history callback trong một từ điển, bạn sẽ trực quan hóa được hàm kích hoạt nào hoạt động tốt nhất ở bài tập tiếp theo!
X_train, y_train, X_test, y_test đã sẵn sàng để bạn dùng khi huấn luyện các mô hình.
Bài tập này là một phần của khóa học
Nhập môn Deep Learning với Keras
Hướng dẫn bài tập
- Điền vào mảng các hàm kích hoạt với
relu,leaky_relu,sigmoidvàtanh. - Ở mỗi vòng lặp, lấy một mô hình mới bằng
get_model()và truyền hàm kích hoạt hiện tại làm tham số. - Huấn luyện mô hình của bạn với dữ liệu train và
validation_data, dùng 20epochsvà đặt verbose = 0.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
# Activation functions to try
activations = [____, ____, ____, ____]
# Loop over the activation functions
activation_results = {}
for act in activations:
# Get a new model with the current activation
model = ____
# Fit the model and store the history results
h_callback = ____
activation_results[act] = h_callback