SHAP 설명 일관성 평가하기
보험 데이터셋의 두 개 하위 집합에서 SHAP 값을 사용해 특성 중요도 설명의 일관성을 평가하세요.
하위 집합 X1, X2, y1, y2와 함께, 첫 번째 하위 집합으로 학습된 model1과 두 번째 하위 집합으로 학습된 model2가 미리 로드되어 있어요.
이 연습은 강의의 일부입니다
Python으로 배우는 Explainable AI
연습 안내
model1에 대해shap_values1과feature_importance1을 계산하세요.model2에 대해shap_values2와feature_importance2를 계산하세요.- 특성 중요도 간
consistency를 계산하세요.
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
# Calculate SHAP values and feature importance for model1
explainer1 = shap.TreeExplainer(model1)
shap_values1 = ____
feature_importance1 = ____
# Calculate SHAP values and feature importance for model2
explainer2 = shap.TreeExplainer(model2)
shap_values2 = ___
feature_importance2 =____
# Consistency calculation
consistency = ____
print("Consistency between SHAP values:", consistency)