Boosting

I den förra övningen tog du dina första steg med ensemblemetoder genom att använda bagging. I en maskininlärningsintervju kan du bli ombedd att prova eller diskutera mer än en ensembleteknik.

Här tränar du på boosting, som använder all data för att träna varje inlärare. Instanser som klassificerades fel av tidigare inlärare tilldelas dock högre vikt, så att efterföljande inlärare fokuserar mer på dem under träningen. Det resulterar i en modell med lägre bias.

Alla relevanta paket har redan importerats: pandas som pd, train_test_split från sklearn.model_selection, accuracy_score från sklearn.linear_model, LogisticRegression från sklearn.linear_model, samt BaggingClassifier och AdaBoostClassifier från sklearn.ensemble.

DataFrame:en loan_data är redan uppdelad i X_train, X_test, y_train och y_test.