Valutare la fedeltà con LIME
Ti viene fornita una spiegazione LIME per un campione X_instance dell'insieme di dati sul reddito. Poiché il genere è il predittore più importante, devi cambiarne il valore e calcolare la faithfulness per capire quanto bene la spiegazione sia allineata al comportamento del modello per quella specifica istanza.
Questo esercizio fa parte del corso
Explainable AI in Python
Istruzioni dell'esercizio
- Cambia il valore del genere a 0 in
X_instance. - Genera una probabilità di
new_prediction. - Stima la
faithfulnessdella spiegazione di LIME.
Esercizio pratico interattivo
Prova a risolvere questo esercizio completando il codice di esempio.
original_prediction = model.predict_proba(X_instance)[0, 1]
print(f"Original prediction: {original_prediction}")
# Change the gender value to 0
____
# Generate the new prediction
new_prediction = ____
print(f"Prediction after perturbing 'gender': {new_prediction}")
# Estimate faithfulness
faithfulness_score = ____
print(f"Local Faithfulness Score: {faithfulness_score}")