XGBoost

在這個練習中，你要操作另一種 boosting 技術。XGBoost 常被稱為機器學習界的新女王，是一個最佳化的分散式梯度提升套件，被形容為正在「席捲全球」！因此，在機器學習面試中被問到它的機率很高；就算沒被問到，主動在答案中談到它，也能展現你對前沿且高準確度演算法的熟悉。

參數 learning_rate=0.1 指定在尋找全域最小值時，每次迭代的步伐大小；max_depth 則控制決策樹的深度，這裡設為 3。

相關套件都已為你匯入： pandas 作為 pd、sklearn.model_selection 中的 train_test_split、sklearn.linear_model 中的 accuracy_score、sklearn.linear_model 中的 LogisticRegression、sklearn.ensemble 中的 BaggingClassifier 與 AdaBoostClassifier，以及 xgboost 中的 XGBClassifier。

loan_data 的 DataFrame 已經分割為 X_train、X_test、y_train 和 y_test。