Costruire un modello di regressione stepwise
In assenza di competenze specifiche sul dominio, la regressione stepwise può aiutarti a individuare i predittori più importanti per l’esito di interesse.
In questo esercizio userai un approccio stepwise in avanti per aggiungere i predittori al modello uno alla volta finché non si osservano più benefici aggiuntivi. Il dataset donors è già stato caricato per te.
Questo esercizio fa parte del corso
Apprendimento supervisionato in R: Classificazione
Istruzioni dell'esercizio
- Usa l’interfaccia a formule di R con
glm()per specificare il modello di base senza predittori. Imposta la variabile esplicativa uguale a1. - Usa di nuovo l’interfaccia a formule di R con
glm()per specificare il modello con tutti i predittori. - Applica
step()a questi modelli per eseguire la regressione stepwise in avanti. Imposta il primo argomento anull_modeledirection = "forward". Potrebbe richiedere un po’ di tempo (fino a 10 o 15 secondi) perché il tuo computer deve adattare diversi modelli per effettuare la selezione stepwise. - Crea un vettore di probabilità previste usando la funzione
predict(). - Traccia la curva ROC con
roc()eplot()e calcola l’AUC del modello stepwise conauc().
Esercizio pratico interattivo
Prova a risolvere questo esercizio completando il codice di esempio.
# Specify a null model with no predictors
null_model <- ___(___, data = ___, family = "___")
# Specify the full model using all of the potential predictors
full_model <- ___
# Use a forward stepwise algorithm to build a parsimonious model
step_model <- step(___, scope = list(lower = null_model, upper = full_model), direction = "___")
# Estimate the stepwise donation probability
step_prob <- ___
# Plot the ROC of the stepwise model
library(pROC)
ROC <- ___
plot(___, col = "red")
auc(___)