Ми досліджуємо техніки Explainable AI (XAI), поділяючи їх на специфічні для моделі, модель-агностичні, локальні та глобальні пояснення, щоб прояснити ухвалення рішень ШІ. Обговорюємо регресію та класифікацію для отримання інсайтів, прив'язаних до моделей, і знайомимо з SHAP та LIME для інтерпретації «чорних скриньок». Крім того, розглядаємо складність великих мовних моделей (LLMs), підкреслюючи потребу в прозорості їхніх процесів ухвалення рішень.
Exercise 1: Техніки XAIExercise 2: Локальне чи глобальнеExercise 3: Model-specific чи model-agnosticExercise 4: Пояснення, специфічні для моделіExercise 5: Аналогії для регресії та класифікаціїExercise 6: Моделі «чорної скриньки» в ухваленні рішеньExercise 7: Пояснення, незалежні від моделіExercise 8: SHAP, LIME чи обидва?Exercise 9: Роль SHAP і LIME у XAIExercise 10: Пояснюваність LLMExercise 11: Розуміння LLMExercise 12: Міркування LLM