Побудова моделі покрокової регресії
Коли немає глибокої предметної експертизи, покрокова регресія допомагає знайти найважливіші предиктори для потрібного результату.
У цій вправі ви застосуєте прямий покроковий підхід: додаватимете предиктори до моделі по одному, доки це дає виграш. Набір даних donors уже завантажено для вас.
Ця вправа є частиною курсу
Наглядове навчання в R: Класифікація
Інструкції до вправи
- Використайте інтерфейс формул R із
glm(), щоб задати базову модель без предикторів. Поставте пояснювальну змінну рівною1. - Знову використайте інтерфейс формул R із
glm(), щоб задати модель з усіма предикторами. - Застосуйте
step()до цих моделей, щоб виконати прямий покроковий відбір. Першим аргументом передайтеnull_modelі встановітьdirection = "forward". Це може тривати певний час (до 10–15 секунд), адже комп'ютер має підігнати чимало різних моделей для відбору. - Створіть вектор імовірностей за допомогою функції
predict(). - Побудуйте криву ROC за допомогою
roc()іplot()та обчисліть AUC покрокової моделі за допомогоюauc().
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Specify a null model with no predictors
null_model <- ___(___, data = ___, family = "___")
# Specify the full model using all of the potential predictors
full_model <- ___
# Use a forward stepwise algorithm to build a parsimonious model
step_model <- step(___, scope = list(lower = null_model, upper = full_model), direction = "___")
# Estimate the stepwise donation probability
step_prob <- ___
# Plot the ROC of the stepwise model
library(pROC)
ROC <- ___
plot(___, col = "red")
auc(___)