Faithfulness evalueren met LIME
Je krijgt een LIME-uitleg voor een voorbeeld X_instance uit de inkomensgegevensset. Omdat geslacht de belangrijkste voorspeller is, moet je de waarde aanpassen en faithfulness berekenen om te bepalen hoe goed de uitleg aansluit bij het gedrag van het model voor dit voorbeeld.
Deze oefening maakt deel uit van de cursus
Explainable AI in Python
Oefeninstructies
- Verander de geslachtswaarde naar 0 in
X_instance. - Genereer een
new_prediction-kans. - Schat de
faithfulnessvan de LIME-uitleg in.
Interactieve oefening met praktijkervaring
Probeer deze oefening door deze voorbeeldcode aan te vullen.
original_prediction = model.predict_proba(X_instance)[0, 1]
print(f"Original prediction: {original_prediction}")
# Change the gender value to 0
____
# Generate the new prediction
new_prediction = ____
print(f"Prediction after perturbing 'gender': {new_prediction}")
# Estimate faithfulness
faithfulness_score = ____
print(f"Local Faithfulness Score: {faithfulness_score}")