MLP Grid Search
การปรับจูน Hyperparameter สามารถทำได้ผ่าน sklearn โดยระบุพารามิเตอร์อินพุตหลายค่า ซึ่งแต่ละค่าสามารถเข้ารหัสได้ด้วยฟังก์ชันต่าง ๆ จาก numpy วิธีการหนึ่งที่ใช้คือ Grid Search ซึ่งจะตรวจสอบทุกการผสมผสานของ Hyperparameter อินพุตที่ระบุผ่าน param_grid อย่างละเอียด ในแบบฝึกหัดนี้ คุณจะใช้ Grid Search เพื่อค้นหา Hyperparameter ที่เหมาะสมสำหรับ MLP classifier
X_train, y_train, X_test, y_test พร้อมใช้งานใน workspace ของคุณ และฟีเจอร์ได้รับการ standardize แล้ว นอกจากนี้ยังมี pandas ในชื่อ pd และ numpy ในชื่อ np ใน workspace ด้วย
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
การพยากรณ์ CTR ด้วย Machine Learning ใน Python
คำแนะนำการฝึกหัด
- สร้างลิสต์ค่า
[10, 20]สำหรับmax_iterและลิสต์ค่า[(8, ), (16, )]สำหรับhidden_layer_sizes - ตั้งค่า Grid Search โดยกำหนด
n_jobsเป็น 4 เพื่อวนซ้ำทุกการผสมผสานของ Hyperparameter - แสดงผลคะแนน AUC ที่ดีที่สุด และ estimator ที่ดีที่สุดที่ได้คะแนนนั้น
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ
ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์
# Create list of hyperparameters
max_iter = [____, ____]
hidden_layer_sizes = [____, ____]
param_grid = {'max_iter': max_iter, 'hidden_layer_sizes': hidden_layer_sizes}
# Use Grid search CV to find best parameters using 4 jobs
mlp = ____
clf = ____(estimator = mlp, param_grid = ____,
scoring = 'roc_auc', ____ = 4)
clf.fit(X_train, y_train)
print("Best Score: ")
print(clf.____)
print("Best Estimator: ")
print(clf.____)