Hyperparameter trong Stochastic Gradient Boosting

Trong bài học trước, bạn đã xây dựng một mô hình Stochastic Gradient Boosting trong caret. Một mô hình tương tự như trước đã được nạp sẵn dưới tên gbm_model. Để tối ưu mô hình này, bạn muốn tinh chỉnh các hyperparameter của nó. Sau đây, mục nào KHÔNG phải là một hyperparameter của phương thức gbm?

Lưu ý: Thư viện caret cũng đã được nạp sẵn.

Bài tập này là một phần của khóa học

Tinh chỉnh siêu tham số trong R

Xem khóa học

Bài tập tương tác thực hành

Biến lý thuyết thành hành động với một trong các bài tập tương tác của chúng tôi

Bắt đầu bài tập

Bài tập này là một phần của khóa học

Tinh chỉnh siêu tham số trong R

SkillTag.level.advancedSkillTag.label

4.8+

Bắt đầu khóa học miễn phí

Vì sao chúng ta dùng từ "hyperparameter" nghe có vẻ lạ? Điều gì khiến nó “hyper”? Tại đây, bạn sẽ hiểu tham số của mô hình là gì, và vì sao chúng khác với siêu tham số trong Machine Learning. Sau đó, bạn sẽ thấy vì sao chúng ta muốn tinh chỉnh chúng và cách thiết lập mặc định của caret tự động bao gồm bước tinh chỉnh siêu tham số.

Exercise 1: Tham số và siêu tham số Exercise 2: Tham số mô hình vs. siêu tham số (hyperparameters)Exercise 3: Hyperparameter trong mô hình tuyến tính Exercise 4: Các hệ số là gì?Exercise 5: Ôn tập các kiến thức cơ bản về Machine Learning Exercise 6: Machine learning với caret Exercise 7: Lược đồ lấy mẫu lại (resampling)Exercise 8: Tinh chỉnh hyperparameter với caret Exercise 9: Hyperparameter trong Stochastic Gradient Boosting

Bài tập hiện tại

Exercise 10: Thay đổi số lượng hyperparameter cần tinh chỉnh Exercise 11: Tự thiết lập siêu tham số

Trong chương này, bạn sẽ học cách tinh chỉnh siêu tham số với lưới Descartes (Cartesian grid). Tiếp đó, bạn sẽ triển khai các phương pháp nhanh và hiệu quả hơn. Bạn sẽ dùng Random Search và tái lấy mẫu thích ứng để tinh chỉnh lưới tham số, theo cách tập trung vào các giá trị nằm gần thiết lập tối ưu.

Exercise 1: Tinh chỉnh siêu tham số với caret Exercise 2: Tìm hyperparameter Exercise 3: Tìm kiếm lưới Cartesian trong caret Exercise 4: Vẽ biểu đồ đầu ra mô hình hyperparameter Exercise 5: Grid so với Random Search Exercise 6: Grid search với dải hyperparameter Exercise 7: Tìm tùy chọn của train() cho random search Exercise 8: Random search với caret Exercise 9: Lấy mẫu lại thích nghi Exercise 10: Ưu điểm của Adaptive Resampling Exercise 11: Lấy mẫu thích ứng (Adaptive Resampling) với caret

Tại đây, bạn sẽ dùng một gói Machine Learning khác có các hàm tinh chỉnh siêu tham số rất tiện lợi. Bạn sẽ định nghĩa lưới Descartes hoặc thực hiện Random Search, cũng như các kỹ thuật nâng cao. Bạn cũng sẽ học các cách khác nhau để vẽ và đánh giá mô hình với các siêu tham số khác nhau.

Exercise 1: Machine Learning với mlr Exercise 2: Machine Learning với mlr Exercise 3: Mô hình hóa với mlr Exercise 4: Grid search và random search với mlr Exercise 5: Random search với mlr Exercise 6: Thực hiện tinh chỉnh siêu tham số với mlr Exercise 7: Đánh giá siêu tham số với mlr Exercise 8: Vì sao cần đánh giá quá trình tuning?Exercise 9: Đánh giá kết quả tinh chỉnh siêu tham số Exercise 10: Tinh chỉnh nâng cao với mlr Exercise 11: Định nghĩa điều khiển tuning nâng cao Exercise 12: Định nghĩa các thước đo tổng hợp Exercise 13: Thiết lập hyperparameter

Ở chương cuối, bạn sẽ dùng h2o, một gói Machine Learning khác với các hàm tinh chỉnh siêu tham số rất tiện lợi. Bạn sẽ dùng nó để huấn luyện các mô hình khác nhau và định nghĩa một lưới Descartes. Sau đó, bạn sẽ triển khai Random Search cùng tiêu chí dừng. Cuối cùng, bạn sẽ học AutoML, một giao diện của h2o cho phép tinh chỉnh mô hình và siêu tham số rất nhanh và tiện chỉ với một hàm.

Exercise 1: Machine learning với h2o Exercise 2: Chuẩn bị dữ liệu để mô hình hóa với h2o Exercise 3: Mô hình hóa với h2o Exercise 4: Grid và random search với h2o Exercise 5: Tìm kiếm theo lưới với h2o Exercise 6: Random search với h2o Exercise 7: Tiêu chí dừng Exercise 8: Machine learning tự động với H2O Exercise 9: AutoML trong h2o Exercise 10: Chấm điểm leaderboard Exercise 11: Trích xuất mô hình h2o và đánh giá hiệu năng Exercise 12: Tổng kết