SHAPによる説明の一貫性を評価する
保険データセットの2つの異なるサブセットに対して、SHAP値を用いた特徴量重要度の説明の一貫性を評価します。
サブセット X1、X2、y1、y2 はすでに読み込まれており、最初のサブセットで学習した model1 と、2番目のサブセットで学習した model2 も用意されています。
この演習はコースの一部です
Pythonで学ぶExplainable AI
演習の手順
model1に対してshap_values1とfeature_importance1を計算します。model2に対してshap_values2とfeature_importance2を計算します。- 特徴量重要度同士の
consistencyを計算します。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Calculate SHAP values and feature importance for model1
explainer1 = shap.TreeExplainer(model1)
shap_values1 = ____
feature_importance1 = ____
# Calculate SHAP values and feature importance for model2
explainer2 = shap.TreeExplainer(model2)
shap_values2 = ___
feature_importance2 =____
# Consistency calculation
consistency = ____
print("Consistency between SHAP values:", consistency)