Kernel-explainer voor MLPClassifier
Neurale netwerken kunnen heel nauwkeurig zijn, maar hun beslissingen begrijpen is door de complexiteit vaak lastig. Nu ga je de SHAP Kernel Explainer gebruiken om een MLPClassifier te interpreteren die is getraind op de adult income-gegevensset. Je onderzoekt welke van de drie features—leeftijd, opleiding of aantal gewerkte uren per week—volgens dit model het belangrijkst is om inkomen te voorspellen.
X met de voorspellers en y met de toelatingsbeslissingen, samen met de voorgetrainde MLPClassifier model, zijn alvast voor je ingeladen.
Deze oefening maakt deel uit van de cursus
Explainable AI in Python
Oefeninstructies
- Maak een SHAP Kernel Explainer aan met het MLPClassifier-
modelen een k-means-samenvatting van 10 steekproeven uitX. - Genereer
shap_valuesvoorX. - Bereken de gemiddelde absolute SHAP-waarden om de belangrijkste factoren te vinden die de toelating beïnvloeden.
Praktische interactieve oefening
Probeer deze oefening eens door deze voorbeeldcode in te vullen.
import shap
# Create a SHAP Kernel Explainer
explainer = ____
# Calculate SHAP values
shap_values = ____
# Calculate mean absolute SHAP values
mean_abs_shap = ____
plt.bar(X.columns, mean_abs_shap)
plt.title('Mean Absolute SHAP Values for MLPClassifier')
plt.xticks(rotation=45)
plt.show()