Kernel Explainer dla MLPClassifier
Sieci neuronowe mogą być bardzo dokładne, ale zrozumienie ich decyzji bywa trudne ze względu na złożoność modelu. Teraz wykorzystasz SHAP Kernel Explainer do interpretacji MLPClassifier wytrenowanego na zbiorze danych dotyczącym dochodów dorosłych. Sprawdzisz, która z trzech cech – wiek, wykształcenie czy liczba przepracowanych godzin tygodniowo – ma największy wpływ na przewidywanie dochodu według tego modelu.
Zmienna X zawierająca predyktory oraz y zawierająca decyzje o przyznaniu dochodu, a także wstępnie wytrenowany model MLPClassifier model, zostały już wczytane.
To ćwiczenie jest częścią kursu
Wyjaśnialne AI w Pythonie
Instrukcje do ćwiczenia
- Utwórz instancję SHAP Kernel Explainer, używając MLPClassifier
modeloraz podsumowania k-średnich złożonego z 10 próbek ze zbioruX. - Wygeneruj
shap_valuesdlaX. - Oblicz średnie bezwzględne wartości SHAP, aby zidentyfikować kluczowe czynniki wpływające na decyzje o dochodzie.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
import shap
# Create a SHAP Kernel Explainer
explainer = ____
# Calculate SHAP values
shap_values = ____
# Calculate mean absolute SHAP values
mean_abs_shap = ____
plt.bar(X.columns, mean_abs_shap)
plt.title('Mean Absolute SHAP Values for MLPClassifier')
plt.xticks(rotation=45)
plt.show()