НачатьНачать бесплатно

Kernel Explainer для MLPClassifier

Нейронные сети могут быть очень точными, однако из-за своей сложности их решения зачастую трудно интерпретировать. В этом упражнении вы воспользуетесь SHAP Kernel Explainer, чтобы разобраться в работе MLPClassifier, обученного на наборе данных об уровне дохода взрослых. Вы определите, какой из трёх признаков — возраст, образование или количество рабочих часов в неделю — наиболее важен для предсказания дохода по данной модели.

Предикторы X, целевая переменная y с решениями о поступлении, а также предварительно обученный MLPClassifier model уже загружены для вас.

Это упражнение является частью курса

Объяснимый ИИ на Python

Посмотреть курс

Инструкции к упражнению

  • Создайте экземпляр SHAP Kernel Explainer, передав MLPClassifier model и сводку методом k-средних из 10 объектов набора данных X.
  • Вычислите shap_values для X.
  • Рассчитайте среднее абсолютное значение SHAP-значений, чтобы определить ключевые факторы, влияющие на решения о поступлении.

Интерактивное практическое упражнение

Попробуйте выполнить это упражнение, дополнив этот пример кода.

import shap

# Create a SHAP Kernel Explainer
explainer = ____

# Calculate SHAP values
shap_values = ____

# Calculate mean absolute SHAP values
mean_abs_shap = ____

plt.bar(X.columns, mean_abs_shap)
plt.title('Mean Absolute SHAP Values for MLPClassifier')
plt.xticks(rotation=45)
plt.show()
Редактировать и запускать код