Aufbau eines schrittweisen Regressionsmodells
Wenn kein Fachwissen vorhanden ist, kann die schrittweise Regression bei der Suche nach den wichtigsten Prädiktoren für das gewünschte Ergebnis helfen.
In dieser Übung fügst du dem Modell schrittweise Prädiktoren hinzu, bis kein zusätzlicher Nutzen mehr erkennbar ist. Der Datensatz donors
wurde für dich geladen.
Diese Übung ist Teil des Kurses
Überwachtes Lernen in R: Klassifikation
Anleitung zur Übung
- Verwende die R-Formelschnittstelle mit
glm()
, um das Basismodell ohne Prädiktoren anzugeben. Setze die erklärende Variable gleich1
. - Verwende die R-Formelschnittstelle wieder mit
glm()
, um das Modell mit allen Prädiktoren anzugeben. - Wende
step()
auf diese Modelle an, um eine schrittweise Vorwärtsregression durchzuführen. Setze das erste Argument aufnull_model
und setzedirection = "forward"
. Das kann eine Weile dauern (bis zu 10 oder 15 Sekunden), da dein Computer für die schrittweise Auswahl einige verschiedene Modelle anpassen muss. - Erstelle einen Vektor der vorhergesagten Wahrscheinlichkeiten mit der Funktion
predict()
. - Zeichne die ROC Kurve mit
roc()
undplot()
und berechne die AUC des schrittweisen Modells mitauc()
.
Interaktive Übung
Versuche dich an dieser Übung, indem du diesen Beispielcode vervollständigst.
# Specify a null model with no predictors
null_model <- ___(___, data = ___, family = "___")
# Specify the full model using all of the potential predictors
full_model <- ___
# Use a forward stepwise algorithm to build a parsimonious model
step_model <- step(___, scope = list(lower = null_model, upper = full_model), direction = "___")
# Estimate the stepwise donation probability
step_prob <- ___
# Plot the ROC of the stepwise model
library(pROC)
ROC <- ___
plot(___, col = "red")
auc(___)