XGBoost
Dans cet exercice, vous allez pratiquer une autre technique de boosting. Considéré comme la nouvelle reine du Machine Learning, XGBoost est un progiciel optimisé de gradient boosting distribué qui est en train de « conquérir le monde » ! Cela dit, il est probable qu'on vous en parle lors d'une entrevue en Machine Learning ou, à tout le moins, il serait à votre avantage d'en discuter dans l'une de vos réponses pour démontrer votre connaissance d'algorithmes de pointe, très précis.
Le paramètre learning_rate=0.1 précise la taille du pas à chaque itération lors de la recherche du minimum global, et max_depth contrôle la taille (profondeur) des arbres de décision, ici 3.
Tous les progiciels pertinents ont été importés pour vous :
pandas sous le nom pd, train_test_split de sklearn.model_selection, accuracy_score de sklearn.linear_model, LogisticRegression de sklearn.linear_model, BaggingClassifier et AdaBoostClassifier de sklearn.ensemble, et XGBClassifier de xgboost.
Le DataFrame loan_data est déjà séparé en X_train, X_test, y_train et y_test.
Cette activité fait partie du cours
S'exercer aux questions d'entrevue en Machine Learning avec Python
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
# Instantiate
xgb = ____(____=____, random_state=123, learning_rate=0.1, max_depth=3)