단계적 회귀 모형 만들기
주제 영역에 대한 전문 지식이 부족할 때, stepwise regression은 관심 있는 결과를 예측하는 데 가장 중요한 예측 변수를 찾는 데 도움을 줄 수 있어요.
이번 연습에서는 순방향 단계적 접근을 사용해 예측 변수를 하나씩 모형에 추가하고, 더 이상 이득이 없을 때까지 진행할 거예요. donors 데이터셋은 미리 로드되어 있어요.
이 연습은 강의의 일부입니다
R로 배우는 Supervised Learning: 분류
연습 안내
glm()과 R 수식 인터페이스를 사용해 예측 변수가 없는 기본 모형을 지정하세요. 설명 변수는1로 설정하세요.- 다시
glm()과 수식 인터페이스를 사용해 모든 예측 변수를 포함한 모형을 지정하세요. - 이들 모형에
step()을 적용해 순방향 단계적 회귀를 수행하세요. 첫 번째 인수는null_model로,direction = "forward"로 설정하세요. 단계적 선택을 위해 여러 모형을 적합해야 하므로, 컴퓨터 성능에 따라 최대 10~15초 정도 걸릴 수 있어요. predict()함수를 사용해 예측 확률 벡터를 만드세요.roc()와plot()으로 ROC 곡선을 그리고,auc()로 단계적 모형의 AUC를 계산하세요.
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
# Specify a null model with no predictors
null_model <- ___(___, data = ___, family = "___")
# Specify the full model using all of the potential predictors
full_model <- ___
# Use a forward stepwise algorithm to build a parsimonious model
step_model <- step(___, scope = list(lower = null_model, upper = full_model), direction = "___")
# Estimate the stepwise donation probability
step_prob <- ___
# Plot the ROC of the stepwise model
library(pROC)
ROC <- ___
plot(___, col = "red")
auc(___)