Tập hợp mô hình gradient boosting
Boosting là một kỹ thuật trong đó lỗi của bộ dự đoán trước được truyền làm đầu vào cho bộ dự đoán tiếp theo theo trình tự. Gradient Boosting sử dụng quy trình gradient descent để tối thiểu hóa log loss cho mỗi cây phân loại được bổ sung lần lượt, vốn bản thân là các mô hình quyết định yếu. Gradient Boosting cho hồi quy cũng tương tự, nhưng dùng một hàm mất mát như mean squared error áp dụng với gradient descent.
Trong bài tập này, bạn sẽ tạo một mô hình Gradient Boosting Classifier và so sánh hiệu năng của nó với Random Forest ở bài trước, vốn đạt độ chính xác 72.5%.
DataFrame loan_data đã được chia và có sẵn trong không gian làm việc của bạn dưới dạng X_train, X_test, y_train và y_test.
Bài tập này là một phần của khóa học
Luyện tập câu hỏi phỏng vấn Machine Learning bằng Python
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
# Import
from sklearn.____ import ____
from sklearn.____ import ____, ____, ____, ____, ____
# Instantiate
gb_model = ____(____=____, learning_rate=___,random_state=123)