1. Nauka
    2. /
  2. Kursy
    3. /
  3. Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie
Connected

ćwiczenie

Ensemble gradient boosting

Boosting to technika, w której błąd jednego predyktora jest przekazywany jako dane wejściowe do następnego – w sposób sekwencyjny. Gradient Boosting wykorzystuje procedurę gradientu prostego (ang. gradient descent) w celu minimalizacji log loss dla każdego kolejno dodawanego drzewa klasyfikacyjnego, które samo w sobie jest słabym modelem decyzyjnym. Gradient Boosting dla regresji działa podobnie, ale korzysta z funkcji straty, takiej jak błąd średniokwadratowy (MSE), stosowanej w algorytmie gradientu prostego.

W tym ćwiczeniu stworzysz model Gradient Boosting Classifier i porównasz jego wydajność z modelem Random Forest z poprzedniego ćwiczenia, który osiągnął dokładność 72,5%.

Ramka danych loan_data została już podzielona i jest dostępna w obszarze roboczym jako X_train, X_test, y_train oraz y_test.

Instrukcje 1/4

undefined XP
    1
    2
    3
    4
  • Zaimportuj moduły potrzebne do stworzenia modelu Gradient Boosting oraz do wydrukowania macierzy pomyłek (confusion matrix), dokładności (accuracy), precyzji (precision), czułości (recall) i miary F1.
  • Utwórz instancję klasyfikatora GB i ustaw odpowiedni argument, aby wygenerować 50 estymatorów ze współczynnikiem uczenia (learning rate) równym 0.01.