始める無料で始める

MLPClassifier のための Kernel Explainer

ニューラルネットワークは高い精度を発揮しますが、その複雑さゆえ意思決定の理解は難しくなりがちです。ここでは、成人所得データセットで学習した MLPClassifier を SHAP Kernel Explainer で解釈します。年齢、教育、週あたりの労働時間という3つの特徴量のうち、このモデルで所得予測に最も重要なのはどれかを探っていきます。

予測変数を含む X、判定結果を含む y、そして事前学習済みの MLPClassifier model はすでに読み込まれています。

この演習はコースの一部です

Pythonで学ぶExplainable AI

コースを見る

演習の手順

  • MLPClassifier model と、X から 10 サンプルの k-means サマリーを用いて、SHAP Kernel Explainer をインスタンス化します。
  • X に対する shap_values を生成します。
  • 平均絶対 SHAP 値を計算して、合否に影響する主要な要因を特定します。

実践的なインタラクティブ演習

このサンプルコードを完成させて、この演習に挑戦してみましょう。

import shap

# Create a SHAP Kernel Explainer
explainer = ____

# Calculate SHAP values
shap_values = ____

# Calculate mean absolute SHAP values
mean_abs_shap = ____

plt.bar(X.columns, mean_abs_shap)
plt.title('Mean Absolute SHAP Values for MLPClassifier')
plt.xticks(rotation=45)
plt.show()
コードを編集して実行