Membangun model regresi stepwise
Tanpa keahlian spesifik domain, stepwise regression dapat membantu mencari prediktor terpenting untuk keluaran yang diminati.
Dalam latihan ini, Anda akan menggunakan pendekatan stepwise maju untuk menambahkan prediktor ke model satu per satu hingga tidak ada manfaat tambahan yang terlihat. Himpunan data donors telah dimuat untuk Anda.
Latihan ini adalah bagian dari kursus
Supervised Learning di R: Klasifikasi
Petunjuk latihan
- Gunakan antarmuka formula R dengan
glm()untuk menetapkan model dasar tanpa prediktor. Setel variabel penjelas sama dengan1. - Gunakan kembali antarmuka formula R dengan
glm()untuk menetapkan model dengan semua prediktor. - Terapkan
step()pada model-model ini untuk melakukan forward stepwise regression. Setel argumen pertama kenull_modeldan seteldirection = "forward". Proses ini mungkin memerlukan waktu (hingga 10 atau 15 detik) karena komputer Anda harus memfitting cukup banyak model untuk melakukan seleksi stepwise. - Buat vektor probabilitas terprediksi menggunakan fungsi
predict(). - Plot kurva ROC dengan
roc()danplot()serta hitung AUC dari model stepwise denganauc().
Latihan interaktif praktis
Cobalah latihan ini dengan menyelesaikan kode contoh berikut.
# Specify a null model with no predictors
null_model <- ___(___, data = ___, family = "___")
# Specify the full model using all of the potential predictors
full_model <- ___
# Use a forward stepwise algorithm to build a parsimonious model
step_model <- step(___, scope = list(lower = null_model, upper = full_model), direction = "___")
# Estimate the stepwise donation probability
step_prob <- ___
# Plot the ROC of the stepwise model
library(pROC)
ROC <- ___
plot(___, col = "red")
auc(___)