Évaluer la fidélité avec LIME
Une explication LIME vous est fournie pour un échantillon X_instance de l'ensemble de données sur les revenus. Le sexe étant le prédicteur le plus important, vous devez modifier sa valeur et calculer faithfulness pour déterminer dans quelle mesure l'explication s'aligne sur le comportement du modèle pour cette instance.
Cet exercice fait partie du cours
L'IA explicable en Python
Instructions
- Modifiez la valeur du genre en la fixant à 0 dans
X_instance. - Générer une probabilité
new_prediction. - Estimez l'adresse
faithfulnessde l'explication de LIME.
Exercice interactif pratique
Essayez cet exercice en complétant cet exemple de code.
original_prediction = model.predict_proba(X_instance)[0, 1]
print(f"Original prediction: {original_prediction}")
# Change the gender value to 0
____
# Generate the new prediction
new_prediction = ____
print(f"Prediction after perturbing 'gender': {new_prediction}")
# Estimate faithfulness
faithfulness_score = ____
print(f"Local Faithfulness Score: {faithfulness_score}")