Evaluar la fidelidad con LIME
Te proporcionamos una explicación de LIME de una muestra X_instance del conjunto de datos de ingresos. Como el sexo es el predictor más importante, tienes que cambiar su valor y calcular faithfulness para determinar lo bien que se ajusta la explicación al comportamiento del modelo para esa instancia.
Este ejercicio forma parte del curso
IA explicable en Python
Instrucciones del ejercicio
- Cambia el valor de sexo a 0 en
X_instance. - Genera una probabilidad
new_prediction. - Estima la
faithfulnessde la explicación de LIME.
Ejercicio interactivo práctico
Prueba este ejercicio completando el código de muestra.
original_prediction = model.predict_proba(X_instance)[0, 1]
print(f"Original prediction: {original_prediction}")
# Change the gender value to 0
____
# Generate the new prediction
new_prediction = ____
print(f"Prediction after perturbing 'gender': {new_prediction}")
# Estimate faithfulness
faithfulness_score = ____
print(f"Local Faithfulness Score: {faithfulness_score}")