Boosting

W poprzednim ćwiczeniu zacząłeś pracę z technikami zespołowymi, używając baggingu. Podczas rozmowy kwalifikacyjnej z uczenia maszynowego możesz zostać poproszony o omówienie lub wypróbowanie więcej niż jednej techniki zespołowej.

Tutaj przećwiczysz boosting – metodę, która do trenowania każdego klasyfikatora bazowego używa wszystkich danych, jednak instancjom błędnie sklasyfikowanym przez poprzednie modele przypisuje większe wagi. Dzięki temu kolejne modele skupiają się na trudniejszych przypadkach. W efekcie otrzymujemy model o zmniejszonym obciążeniu (bias).

Wszystkie potrzebne pakiety zostały już zaimportowane: pandas jako pd, train_test_split z sklearn.model_selection, accuracy_score z sklearn.linear_model, LogisticRegression z sklearn.linear_model oraz BaggingClassifier i AdaBoostClassifier z sklearn.ensemble.

Zbiór danych loan_data jest już podzielony na X_train, X_test, y_train i y_test.