Consistentie van SHAP-verklaringen beoordelen

Beoordeel de consistentie van feature-importance-verklaringen met SHAP-waarden over twee verschillende subsets van de verzekeringsgegevensset.

De subsets X1, X2, y1 en y2 zijn al voor je geladen, samen met model1 dat is getraind op de eerste subset en model2 dat is getraind op de tweede subset.

Deze oefening maakt deel uit van de cursus

Explainable AI in Python

Cursus bekijken

Oefeninstructies

Bereken shap_values1 en feature_importance1 voor model1.
Bereken shap_values2 en feature_importance2 voor model2.
Bereken de consistency tussen de feature importances.

Praktische interactieve oefening

Probeer deze oefening eens door deze voorbeeldcode in te vullen.

# Calculate SHAP values and feature importance for model1
explainer1 = shap.TreeExplainer(model1)
shap_values1 = ____
feature_importance1 = ____

# Calculate SHAP values and feature importance for model2
explainer2 = shap.TreeExplainer(model2)
shap_values2 = ___
feature_importance2 =____

# Consistency calculation
consistency = ____
print("Consistency between SHAP values:", consistency)

Code bewerken en uitvoeren