XG Boost
W tym ćwiczeniu przećwiczysz kolejną technikę boostingu. XGBoost – nazywany nową królową uczenia maszynowego – to zoptymalizowana, rozproszona biblioteka gradient boostingu, która „podbija świat!". Znajomość tego algorytmu jest bardzo prawdopodobnym tematem rozmowy kwalifikacyjnej z ML, a przynajmniej jej omówienie może wypaść na twoją korzyść – pokazuje, że znasz najnowocześniejsze i wysoce dokładne algorytmy.
Argument learning_rate=0.1 określa rozmiar kroku w każdej iteracji podczas poszukiwania globalnego minimum, a max_depth kontroluje rozmiar (głębokość) drzew decyzyjnych – tutaj wynosi 3.
Wszystkie potrzebne biblioteki zostały już zaimportowane:
pandas jako pd, train_test_split z sklearn.model_selection, accuracy_score z sklearn.linear_model, LogisticRegression z sklearn.linear_model, BaggingClassifier i AdaBoostClassifier z sklearn.ensemble oraz XGBClassifier z xgboost.
DataFrame loan_data został już podzielony na X_train, X_test, y_train i y_test.
To ćwiczenie jest częścią kursu
Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
# Instantiate
xgb = ____(____=____, random_state=123, learning_rate=0.1, max_depth=3)