เปรียบเทียบ activation functions
การเปรียบเทียบ activation functions ต้องเขียนโค้ดเพิ่มเติมเล็กน้อย แต่ไม่มีอะไรที่ทำไม่ได้!
จะได้ทดลองใช้ activation functions หลายแบบกับ multi-label model ที่สร้างไว้สำหรับเครื่องระบบชลประทานในบทที่ 2 ฟังก์ชัน get_model('relu') จะคืนค่าสำเนาของโมเดลนี้และนำ activation function 'relu' ไปใช้กับ hidden layer
จะได้วนลูปผ่าน activation functions หลายแบบ สร้างโมเดลใหม่สำหรับแต่ละแบบ แล้วฝึกโมเดล โดยการจัดเก็บ history callback ไว้ใน dictionary จะช่วยให้แสดงภาพได้ว่า activation function ใดให้ผลดีที่สุดในแบบฝึกหัดถัดไป!
X_train, y_train, X_test, y_test พร้อมใช้งานสำหรับการฝึกโมเดลแล้ว
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
Deep Learning เบื้องต้นด้วย Keras
คำแนะนำการฝึกหัด
- เติม array ของ activation functions ด้วย
relu,leaky_relu,sigmoidและtanh - สร้างโมเดลใหม่ในแต่ละรอบด้วย
get_model()โดยส่ง activation function ปัจจุบันเป็นพารามิเตอร์ - Fit โมเดลโดยระบุข้อมูล train และ
validation_dataใช้จำนวน 20epochsและตั้งค่า verbose เป็น 0
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ
ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์
# Activation functions to try
activations = [____, ____, ____, ____]
# Loop over the activation functions
activation_results = {}
for act in activations:
# Get a new model with the current activation
model = ____
# Fit the model and store the history results
h_callback = ____
activation_results[act] = h_callback