Boosting

En el último ejercicio, empezaste con técnicas de ensamblado usando bagging. En una entrevista de Machine Learning, puede que te pidan probar o comentar más de una técnica de ensamblado.

Aquí vas a practicar Boosting, que utiliza todos los datos para entrenar cada aprendiz, pero da mayor peso a las instancias mal clasificadas por los aprendices previos, de modo que los siguientes se centren más en ellas durante el entrenamiento. Esto da como resultado un modelo con menor sesgo.

Ya tienes importados todos los paquetes relevantes: pandas como pd, train_test_split de sklearn.model_selection, accuracy_score de sklearn.linear_model, LogisticRegression de sklearn.linear_model, y BaggingClassifier y AdaBoostClassifier de sklearn.ensemble.

El DataFrame loan_data ya está dividido en X_train, X_test, y_train y y_test.