Utvärdera trovärdighet med LIME
Du har tillgång till en LIME-förklaring för ett urval X_instance från inkomstdatasetet. Eftersom kön är den viktigaste prediktorn behöver du ändra dess värde och beräkna faithfulness för att avgöra hur väl förklaringen stämmer överens med modellens beteende för den instansen.
Den här övningen är en del av kursen
Förklarbar AI i Python
Övningsinstruktioner
- Ändra könsvärdet till 0 i
X_instance. - Generera en
new_prediction-sannolikhet. - Uppskatta
faithfulnesshos LIME:s förklaring.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
original_prediction = model.predict_proba(X_instance)[0, 1]
print(f"Original prediction: {original_prediction}")
# Change the gender value to 0
____
# Generate the new prediction
new_prediction = ____
print(f"Prediction after perturbing 'gender': {new_prediction}")
# Estimate faithfulness
faithfulness_score = ____
print(f"Local Faithfulness Score: {faithfulness_score}")