의사결정나무의 숲
이번 연습에서는 부트스트래핑된 Decision Tree, 즉 Random Forest를 사용해 보겠습니다. 이전 연습과 마찬가지로, 교차 검증으로 하이퍼파라미터를 튜닝한 모델과 정확도를 비교해 볼 거예요.
이번에는 모델이 사용할 특성의 개수를 결정하는 추가 하이퍼파라미터 max_features도 튜닝합니다. 이 값을 명시하지 않으면 기본값은 auto입니다. 면접에서 기억해 두면 좋은 점은, Decision Tree는 기본적으로 모든 특성을 고려하지만, Random Forest는 보통 특성 수의 제곱근을 고려한다는 것입니다.
특성 행렬 X, 타깃 레이블 y, 그리고 sklearn.model_selection의 train_test_split은 이미 임포트되어 있습니다.
이 연습은 강의의 일부입니다
Python으로 연습하는 Machine Learning 면접 질문
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
# Import modules
from sklearn.ensemble import ____
from sklearn.metrics import accuracy_score
# Train/test split
X_train, X_test, y_train, y_test = train_test_split(____, ____, test_size=0.30, random_state=123)
# Instantiate, Fit, Predict
loans_rf = ____()
loans_rf.____(____, ____)
y_pred = loans_rf.____(____)
# Evaluation metric
print("Random Forest Accuracy: {}".format(____(____,____)))