XGBoost
У цій вправі ви попрактикуєте ще одну техніку бустингу. XGBoost, якого називають новою королевою машинного навчання, — це оптимізований розподілений пакет градієнтного бустингу, що нібито «завойовує світ!». Тож імовірність, що про нього запитають на співбесіді з машинного навчання, висока. А щонайменше вам буде корисно згадати його в одній із відповідей, щоб показати знання найсучасніших і високоточних алгоритмів.
Аргумент learning_rate=0.1 задає розмір кроку на кожній ітерації під час пошуку глобального мінімуму, а max_depth керує розміром (глибиною) дерев рішень; тут це 3.
Усі потрібні пакети вже імпортовано за вас:
pandas як pd, train_test_split з sklearn.model_selection, accuracy_score з sklearn.linear_model, LogisticRegression з sklearn.linear_model, BaggingClassifier і AdaBoostClassifier з sklearn.ensemble, а також XGBClassifier з xgboost.
Датафрейм loan_data уже розділено на X_train, X_test, y_train і y_test.
Ця вправа є частиною курсу
Практика співбесід з Machine Learning у Python
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Instantiate
xgb = ____(____=____, random_state=123, learning_rate=0.1, max_depth=3)