Aggregazione bootstrap (bagging)

Nella lezione precedente, hai avuto un assaggio dei modelli di classificazione applicando la regressione logistica a dati con feature ingegnerizzate. Nei colloqui di Machine Learning, può essere utile conoscere i modelli ensemble, perché combinano weak learner per creare un strong learner che migliora l'accuratezza del modello.

In questo esercizio, inizierai applicando un classificatore bagging che utilizza una tecnica di campionamento con reinserimento per mantenere la casualità e ridurre l'overfitting. Userai funzioni dal modulo sklearn.ensemble, già visto nell'esercizio video.

Tutti i pacchetti rilevanti sono già stati importati per te: pandas come pd, train_test_split da sklearn.model_selection, accuracy_score da sklearn.metrics, LogisticRegression da sklearn.linear_model, e BaggingClassifier e AdaBoostClassifier da sklearn.ensemble.

Il DataFrame loan_data è già suddiviso in X_train, X_test, y_train e y_test.