Kernel Explainer pro MLPClassifier
Neuronové sítě mohou být velmi přesné, ale porozumět jejich rozhodnutím bývá kvůli jejich složitosti náročné. V tomto cvičení využiješ SHAP Kernel Explainer k interpretaci MLPClassifier natrénovaného na datasetu příjmů dospělých. Zjistíš, který ze tří příznaků — věk, vzdělání nebo počet odpracovaných hodin týdně — má podle tohoto modelu největší vliv na predikci příjmu.
Prediktory jsou uloženy v X, cílové hodnoty v y a předtrénovaný MLPClassifier je k dispozici jako model.
Toto cvičení je součástí kurzu
Explainable AI v Pythonu
Pokyny k cvičení
- Vytvoř instanci SHAP Kernel Explaineru pomocí MLPClassifier
modela k-means souhrnu 10 vzorků zX. - Vygeneruj
shap_valuesproX. - Vypočítej průměrné absolutní SHAP hodnoty, abys identifikoval/a klíčové faktory ovlivňující predikci příjmu.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
import shap
# Create a SHAP Kernel Explainer
explainer = ____
# Calculate SHAP values
shap_values = ____
# Calculate mean absolute SHAP values
mean_abs_shap = ____
plt.bar(X.columns, mean_abs_shap)
plt.title('Mean Absolute SHAP Values for MLPClassifier')
plt.xticks(rotation=45)
plt.show()