Boosting

Trong bài tập trước, bạn đã bắt đầu với kỹ thuật ensemble bằng cách dùng bagging. Trong một buổi phỏng vấn Machine Learning, bạn có thể được yêu cầu thử hoặc thảo luận về nhiều hơn một kỹ thuật ensemble.

Ở đây, bạn sẽ luyện tập Boosting: kỹ thuật này dùng toàn bộ dữ liệu để huấn luyện mỗi learner, nhưng các mẫu bị phân loại sai bởi những learner trước đó sẽ được gán trọng số cao hơn để các learner tiếp theo chú ý nhiều hơn trong quá trình huấn luyện. Kết quả là một mô hình có độ chệch (bias) giảm.

Tất cả các gói cần thiết đã được nhập sẵn cho bạn: pandas dưới tên pd, train_test_split từ sklearn.model_selection, accuracy_score từ sklearn.linear_model, LogisticRegression từ sklearn.linear_model, và BaggingClassifier cùng AdaBoostClassifier từ sklearn.ensemble.

DataFrame loan_data đã được tách sẵn thành X_train, X_test, y_train và y_test.