Construirea unui model de regresie pas cu pas

În absența expertizei în domeniu, regresia pas cu pas (stepwise regression) poate ajuta la identificarea celor mai importanți predictori ai variabilei de interes.

În acest exercițiu, vei folosi o abordare pas cu pas de tip înainte (forward stepwise) pentru a adăuga predictori în model unul câte unul, până când nu se mai observă niciun beneficiu suplimentar. Setul de date donors a fost deja încărcat pentru tine.

Acest exercițiu face parte din cursul

Supervised Learning în R: Clasificare

Vezi cursul

Instrucțiuni pentru exercițiu

Folosește interfața de formule R cu glm() pentru a specifica modelul de bază fără predictori. Setează variabila explicativă la 1.
Folosește din nou interfața de formule R cu glm() pentru a specifica modelul cu toți predictorii.
Aplică step() asupra acestor modele pentru a efectua regresia pas cu pas de tip înainte. Setează primul argument la null_model și specifică direction = "forward". Acest proces poate dura ceva timp (până la 10–15 secunde), deoarece calculatorul trebuie să ajusteze mai multe modele diferite pentru selecția pas cu pas.
Creează un vector de probabilități prezise folosind funcția predict().
Trasează curba ROC cu roc() și plot() și calculează AUC-ul modelului pas cu pas folosind auc().

Exercițiu interactiv practic

Încearcă acest exercițiu completând acest cod de exemplu.

# Specify a null model with no predictors
null_model <- ___(___, data = ___, family = "___")

# Specify the full model using all of the potential predictors
full_model <- ___

# Use a forward stepwise algorithm to build a parsimonious model
step_model <- step(___, scope = list(lower = null_model, upper = full_model), direction = "___")

# Estimate the stepwise donation probability
step_prob <- ___

# Plot the ROC of the stepwise model
library(pROC)
ROC <- ___
plot(___, col = "red")
auc(___)

Editează și rulează codul