提升法（Boosting）

在上一个练习中，您以袋装法（bagging）开启了集成技术的练习。在机器学习面试中，面试官可能会让您尝试或讨论不止一种集成方法。

这里，您将练习提升法（Boosting）。它在训练每个学习器时都会使用全部数据，但会对前一轮被错误分类的样本赋予更高权重，使后续学习器在训练时更关注这些样本。这样可以降低模型的偏差。

所需的包都已为您导入： pandas 作为 pd，sklearn.model_selection 中的 train_test_split，sklearn.linear_model 中的 accuracy_score，sklearn.linear_model 中的 LogisticRegression，以及 sklearn.ensemble 中的 BaggingClassifier 和 AdaBoostClassifier。

loan_data DataFrame 已拆分为 X_train、X_test、y_train 和 y_test。