Ocena wierności wyjaśnień LIME
Otrzymujesz wyjaśnienie LIME dla próbki X_instance z zestawu danych o dochodach. Ponieważ płeć jest najważniejszym predyktorem, musisz zmienić jej wartość i obliczyć faithfulness, aby sprawdzić, jak dobrze wyjaśnienie odzwierciedla zachowanie modelu dla tej instancji.
To ćwiczenie jest częścią kursu
Wyjaśnialne AI w Pythonie
Instrukcje do ćwiczenia
- Zmień wartość płci na 0 w
X_instance. - Wygeneruj prawdopodobieństwo
new_prediction. - Oszacuj
faithfulnesswyjaśnienia LIME.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
original_prediction = model.predict_proba(X_instance)[0, 1]
print(f"Original prediction: {original_prediction}")
# Change the gender value to 0
____
# Generate the new prediction
new_prediction = ____
print(f"Prediction after perturbing 'gender': {new_prediction}")
# Estimate faithfulness
faithfulness_score = ____
print(f"Local Faithfulness Score: {faithfulness_score}")