MLPClassifier를 위한 Kernel Explainer
Neural networks는 매우 정확할 수 있지만, 구조가 복잡해 의사결정을 이해하기가 어렵습니다. 이제 SHAP Kernel Explainer를 사용해 adult income 데이터셋으로 학습된 MLPClassifier를 해석해 보겠습니다. 이 모델에서 소득을 예측하는 데 세 가지 특징(나이, 교육 수준, 주당 근로 시간) 중 어떤 것이 가장 중요한지 살펴보세요.
예측 변수들이 들어 있는 X, 합격 여부가 들어 있는 y, 그리고 사전 학습된 MLPClassifier model이 미리 로드되어 있어요.
이 연습은 강의의 일부입니다
Python으로 배우는 Explainable AI
연습 안내
- MLPClassifier
model과X에서 10개 샘플로 만든 k-평균 요약을 사용해 SHAP Kernel Explainer를 인스턴스화하세요. X에 대한shap_values를 생성하세요.- 평균 절댓값 SHAP 값을 계산해 합격에 영향을 주는 핵심 요인을 파악하세요.
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
import shap
# Create a SHAP Kernel Explainer
explainer = ____
# Calculate SHAP values
shap_values = ____
# Calculate mean absolute SHAP values
mean_abs_shap = ____
plt.bar(X.columns, mean_abs_shap)
plt.title('Mean Absolute SHAP Values for MLPClassifier')
plt.xticks(rotation=45)
plt.show()