Boosting

У попередній вправі ви розпочали з ансамблевих методів, використавши bagging. На співбесіді з машинного навчання вас можуть попросити спробувати або обговорити більше ніж одну ансамблеву техніку.

Тут ви попрактикуєте Boosting: він використовує всі дані для навчання кожного базового алгоритму, але об'єктам, які були неправильно класифіковані попередніми алгоритмами, надається більша вага, щоб наступні алгоритми під час навчання зосереджувалися на них більше. У результаті упередженість моделі зменшується.

Усі потрібні пакети вже імпортовано для вас: pandas як pd, train_test_split з sklearn.model_selection, accuracy_score з sklearn.linear_model, LogisticRegression з sklearn.linear_model, а також BaggingClassifier і AdaBoostClassifier з sklearn.ensemble.

Датафрейм loan_data уже поділено на X_train, X_test, y_train і y_test.