Bootstrap-aggregering (bagging)

I den förra lektionen fick du en första inblick i klassificeringsmodeller genom att tillämpa logistisk regression på data med konstruerade särdrag. I maskininlärningsintervjuer kan det vara värdefullt att känna till ensemblemodeller, eftersom de kombinerar svaga inlärare för att skapa en stark inlärare som förbättrar modellens noggrannhet.

I den här övningen börjar du med att tillämpa en bagging-klassificerare, som använder en samplingsteknik med återläggning för att bibehålla slumpmässighet och minska överanpassning. Du använder funktioner från modulen sklearn.ensemble som visades i videoövningen.

Alla relevanta paket har importerats åt dig: pandas som pd, train_test_split från sklearn.model_selection, accuracy_score från sklearn.metrics, LogisticRegression från sklearn.linear_model, samt BaggingClassifier och AdaBoostClassifier från sklearn.ensemble.

DataFrame:en loan_data är redan uppdelad i X_train, X_test, y_train och y_test.