Agregação por bootstrap (bagging)

Na última lição, você teve um pequeno gostinho de modelos de classificação ao aplicar regressão logística em dados com features criadas via feature engineering. Em entrevistas de Machine Learning, às vezes vale a pena conhecer modelos de ensemble, já que eles combinam learners fracos para formar um learner forte que melhora a acurácia do modelo.

Neste exercício, você vai começar aplicando um classificador de bagging, que usa uma técnica de amostragem com reposição para manter a aleatoriedade e reduzir overfitting. Você usará funções do módulo sklearn.ensemble, como visto no exercício em vídeo.

Todos os pacotes relevantes já foram importados para você: pandas como pd, train_test_split de sklearn.model_selection, accuracy_score de sklearn.metrics, LogisticRegression de sklearn.linear_model, e BaggingClassifier e AdaBoostClassifier de sklearn.ensemble.

O DataFrame loan_data já está dividido em X_train, X_test, y_train e y_test.