Đánh giá tính nhất quán của lời giải thích SHAP

Đánh giá tính nhất quán của lời giải thích độ quan trọng đặc trưng bằng cách sử dụng các giá trị SHAP trên hai tập con khác nhau của bộ dữ liệu bảo hiểm.

Các tập con X1, X2, y1, và y2 đã được nạp sẵn cho bạn, cùng với model1 được huấn luyện trên tập con thứ nhất và model2 được huấn luyện trên tập con thứ hai.

Bài tập này là một phần của khóa học

Explainable AI trong Python

Xem khóa học

Hướng dẫn bài tập

Tính shap_values1 và feature_importance1 cho model1.
Tính shap_values2 và feature_importance2 cho model2.
Tính consistency giữa các độ quan trọng đặc trưng.

Bài tập tương tác thực hành trực tiếp

Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.

# Calculate SHAP values and feature importance for model1
explainer1 = shap.TreeExplainer(model1)
shap_values1 = ____
feature_importance1 = ____

# Calculate SHAP values and feature importance for model2
explainer2 = shap.TreeExplainer(model2)
shap_values2 = ___
feature_importance2 =____

# Consistency calculation
consistency = ____
print("Consistency between SHAP values:", consistency)

Chỉnh sửa và Chạy Mã

Bài tập này là một phần của khóa học

Explainable AI trong Python

SkillTag.level.intermediateSkillTag.label

4.8+

Bắt đầu khóa học miễn phí

Bắt đầu hành trình của bạn bằng cách khám phá các khái niệm nền tảng của Explainable AI. Học cách trích xuất quy tắc quyết định từ cây quyết định. Suy ra và trực quan hóa mức độ quan trọng của đặc trưng bằng các mô hình tuyến tính và mô hình dựa trên cây để hiểu cách các mô hình này dự đoán, từ đó ra quyết định minh bạch hơn.

Exercise 1: Giới thiệu về AI có khả năng giải thích Exercise 2: Cây quyết định và mạng nơ-ron Exercise 3: Giải thích model-agnostic vs. model-specific Exercise 4: Khả năng giải thích trong các mô hình tuyến tính Exercise 5: Tính toán mức độ ảnh hưởng của đặc trưng với hồi quy tuyến tính Exercise 6: Tính toán tác động của đặc trưng với logistic regression Exercise 7: Khả năng giải thích trong các mô hình dựa trên cây Exercise 8: Tính độ quan trọng của đặc trưng với cây quyết định Exercise 9: Tính toán độ quan trọng đặc trưng với random forests

Khai mở sức mạnh của các kỹ thuật độc lập mô hình để xác định ảnh hưởng của đặc trưng trên nhiều mô hình. Sử dụng permutation importance và giá trị SHAP để phân tích cách đặc trưng tác động đến hành vi mô hình. Khám phá các công cụ trực quan hóa SHAP để làm cho khái niệm giải thích trở nên dễ hiểu hơn.

Exercise 1: Tầm quan trọng hoán vị Exercise 2: Permutation importance cho MLPClassifier Exercise 3: Hệ số vs. permutation importance Exercise 4: Giải thích bằng SHAP Exercise 5: Tìm các biến dự báo chi phí y tế quan trọng với SHAP Exercise 6: Tìm các yếu tố dự báo bệnh tim quan trọng với SHAP Exercise 7: Bộ giải thích SHAP kernel Exercise 8: Kernel explainer cho MLPRegressor Exercise 9: Kernel explainer cho MLPClassifier Exercise 10: SHAP vs. cách tiếp cận đặc thù mô hình Exercise 11: Trực quan hóa khả năng giải thích bằng SHAP Exercise 12: Biểu đồ mức độ quan trọng của đặc trưng cho phân tích tuyển sinh Exercise 13: Phân tích tác động của đặc trưng với biểu đồ beeswarm Exercise 14: Đánh giá tác động với partial dependence plot

Đào sâu vào giải thích cục bộ và giải thích từng dự đoán riêng lẻ. Học cách tận dụng SHAP cho giải thích cục bộ. Thành thạo LIME để làm rõ các yếu tố cụ thể chi phối một kết quả đơn lẻ, cho dù với dữ liệu văn bản, dạng bảng hay hình ảnh.

Exercise 1: Giải thích cục bộ với SHAP Exercise 2: Giải thích toàn cục vs. cục bộ Exercise 3: SHAP để giải thích mức thu nhập Exercise 4: Giải thích cục bộ với LIME Exercise 5: Diễn giải hồi quy cục bộ Exercise 6: Diễn giải cục bộ cho mô hình phân loại Exercise 7: Giải thích văn bản và hình ảnh với LIME Exercise 8: Giải thích dự đoán phân tích cảm xúc Exercise 9: Giải thích dự đoán ảnh món ăn

Khám phá các chủ đề nâng cao trong Explainable AI bằng cách đánh giá hành vi mô hình và hiệu quả của các phương pháp giải thích. Nâng cao kỹ năng đánh giá tính nhất quán và độ trung thực của lời giải thích, tìm hiểu phân tích mô hình không giám sát, và học cách làm rõ quy trình suy luận của các mô hình AI sinh sinh như ChatGPT. Trang bị cho bạn các kỹ thuật để đo lường và tăng cường khả năng giải thích trong các hệ thống AI phức tạp.

Exercise 1: Các thước đo khả năng giải thích Exercise 2: Đánh giá tính nhất quán của lời giải thích SHAP

Bài tập hiện tại

Exercise 3: Đánh giá tính trung thực với LIME Exercise 4: Giải thích các mô hình không giám sát Exercise 5: Tác động của đặc trưng lên chất lượng phân cụm Exercise 6: Tầm quan trọng của đặc trưng trong phân cụm với ARI Exercise 7: Giải thích các mô hình AI sinh chuỗi hội thoại Exercise 8: Chain-of-thought để khám phá lập luận Exercise 9: Tự nhất quán để đánh giá độ tin cậy Exercise 10: Chúc mừng