Vyhodnocení věrnosti vysvětlení pomocí LIME
Máš k dispozici vysvětlení LIME pro vzorek X_instance z datové sady příjmů. Protože pohlaví je nejdůležitějším prediktorem, změníš jeho hodnotu a vypočítáš faithfulness – tedy míru toho, jak dobře vysvětlení odpovídá chování modelu pro danou instanci.
Toto cvičení je součástí kurzu
Explainable AI v Pythonu
Pokyny k cvičení
- Změň hodnotu pohlaví v
X_instancena 0. - Vygeneruj pravděpodobnost
new_prediction. - Odhadni
faithfulnessvysvětlení LIME.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
original_prediction = model.predict_proba(X_instance)[0, 1]
print(f"Original prediction: {original_prediction}")
# Change the gender value to 0
____
# Generate the new prediction
new_prediction = ____
print(f"Prediction after perturbing 'gender': {new_prediction}")
# Estimate faithfulness
faithfulness_score = ____
print(f"Local Faithfulness Score: {faithfulness_score}")