Boosting
In de vorige oefening begon je met ensemble-technieken door bagging te gebruiken. In een Machine Learning-sollicitatiegesprek kan het zijn dat je meer dan één ensemble-techniek moet proberen of bespreken.
Hier ga je oefenen met Boosting. Hierbij wordt alle data gebruikt om elke learner te trainen, maar voorbeelden die door eerdere learners verkeerd zijn geclassificeerd krijgen meer gewicht, zodat latere learners zich daar tijdens het trainen extra op richten. Dit resulteert in een model met minder bias.
Alle relevante pakketten zijn alvast voor je geïmporteerd:
pandas als pd, train_test_split uit sklearn.model_selection, accuracy_score uit sklearn.linear_model, LogisticRegression uit sklearn.linear_model, en BaggingClassifier en AdaBoostClassifier uit sklearn.ensemble.
De loan_data-DataFrame is al opgesplitst in X_train, X_test, y_train en y_test.
Deze oefening maakt deel uit van de cursus
Machine Learning-sollicitatievragen oefenen in Python
Praktische interactieve oefening
Probeer deze oefening eens door deze voorbeeldcode in te vullen.
# Boosting model
boosted_model = ____(____=____, random_state=123)