Évaluer la fidélité avec LIME
On vous fournit une explication LIME pour un exemple X_instance tiré du jeu de données sur le revenu. Comme le genre est le prédicteur le plus important, vous devez en modifier la valeur et calculer la faithfulness afin de déterminer dans quelle mesure l'explication correspond au comportement du modèle pour cette instance.
Cette activité fait partie du cours
Explainable AI en Python
Instructions de l’exercice
- Remplacez la valeur du genre par 0 dans
X_instance. - Générez une probabilité
new_prediction. - Estimez la
faithfulnessde l'explication de LIME.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
original_prediction = model.predict_proba(X_instance)[0, 1]
print(f"Original prediction: {original_prediction}")
# Change the gender value to 0
____
# Generate the new prediction
new_prediction = ____
print(f"Prediction after perturbing 'gender': {new_prediction}")
# Estimate faithfulness
faithfulness_score = ____
print(f"Local Faithfulness Score: {faithfulness_score}")