LIMEでfaithfulnessを評価する
収入データセットから抽出したサンプル X_instance に対する LIME の説明が与えられています。性別が最も重要な予測因子であるため、その値を変更し、faithfulness を計算して、このインスタンスに対する説明がモデルの振る舞いとどの程度一致しているかを確認します。
この演習はコースの一部です
Pythonで学ぶExplainable AI
演習の手順
X_instanceの性別の値を 0 に変更します。new_predictionの確率を生成します。- LIME の説明の
faithfulnessを推定します。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
original_prediction = model.predict_proba(X_instance)[0, 1]
print(f"Original prediction: {original_prediction}")
# Change the gender value to 0
____
# Generate the new prediction
new_prediction = ____
print(f"Prediction after perturbing 'gender': {new_prediction}")
# Estimate faithfulness
faithfulness_score = ____
print(f"Local Faithfulness Score: {faithfulness_score}")