추가 투표를 위한 앙상블 모델
LassoCV() 모델은 32개 특성 중 22개를 선택했어요. 나쁘지 않지만, 차원 축소가 아주 크지는 않네요. 이번에는 Recursive Feature Eliminator(RFE)를 사용해, 두 가지 모델로 각각 가장 중요하다고 판단한 10개의 특성을 선택해 보겠습니다.
표준화된 학습/테스트 데이터는 X_train, X_test, y_train, y_test로 미리 로드되어 있어요.
이 연습은 강의의 일부입니다
Python으로 배우는 차원 축소
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
from sklearn.feature_selection import RFE
from sklearn.ensemble import GradientBoostingRegressor
# Select 10 features with RFE on a GradientBoostingRegressor, drop 3 features on each step
rfe_gb = RFE(estimator=____,
n_features_to_select=____, step=____, verbose=1)
rfe_gb.fit(X_train, y_train)