Utvärdera konsistensen hos SHAP-förklaringar

Utvärdera konsistensen hos förklaringar av särdragsvikter med hjälp av SHAP-värden för två olika delmängder av försäkringsdatamängden.

Delmängderna X1, X2, y1 och y2 har laddats in i förväg, tillsammans med model1 tränad på den första delmängden och model2 tränad på den andra.

Den här övningen är en del av kursen

Förklarbar AI i Python

Övningsinstruktioner

Beräkna shap_values1 och feature_importance1 för model1.
Beräkna shap_values2 och feature_importance2 för model2.
Beräkna consistency mellan särdragsvikterna.

Interaktiv övning med praktiskt arbete

Testa den här övningen genom att slutföra den här exempelkoden.

# Calculate SHAP values and feature importance for model1
explainer1 = shap.TreeExplainer(model1)
shap_values1 = ____
feature_importance1 = ____

# Calculate SHAP values and feature importance for model2
explainer2 = shap.TreeExplainer(model2)
shap_values2 = ___
feature_importance2 =____

# Consistency calculation
consistency = ____
print("Consistency between SHAP values:", consistency)

Redigera och kör kod

Den här övningen är en del av kursen

Förklarbar AI i Python

SkillTag.level.intermediateSkillTag.label

4.8+

Starta kursen gratis

Börja med att utforska de grundläggande begreppen inom förklarbar AI. Lär dig att extrahera beslutsregler från beslutsträd. Härled och visualisera särdragsvikt med hjälp av linjära modeller och trädbaserade modeller för att förstå hur dessa modeller gör sina prediktioner och möjliggöra ett mer transparent beslutsfattande.

Exercise 1: Introduktion till förklarbar AI Exercise 2: Beslutsträd mot neurala nätverk Exercise 3: Modell-agnostisk vs. modellspecifik förklarbarhet Exercise 4: Förklarbarhet i linjära modeller Exercise 5: Beräkna särdragspåverkan med linjär regression Exercise 6: Beräkna särdragspåverkan med logistisk regression Exercise 7: Förklarbarhet i trädbaserade modeller Exercise 8: Beräkna särdragsviktigheter med beslutsträd Exercise 9: Beräkna särdragsvikt med random forests

Lär dig använda modell-agnostiska tekniker för att analysera särdragsinfluens i olika modeller. Använd permutationsvikt och SHAP-värden för att undersöka hur särdrag påverkar modellbeteende. Utforska SHAP:s visualiseringsverktyg för att göra förklarbarhetsbegrepp mer begripliga.

Exercise 1: Permutationsviktighet Exercise 2: Permutationsimportans för MLPClassifier Exercise 3: Koefficienter vs. permutationsvikt Exercise 4: SHAP-förklarbarhet Exercise 5: Hitta viktiga prediktorer för sjukvårdskostnader med SHAP Exercise 6: Hitta viktiga prediktorer för hjärtsjukdom med SHAP Exercise 7: SHAP kernel-förklarare Exercise 8: Kernel Explainer för MLPRegressor Exercise 9: Kernel Explainer för MLPClassifier Exercise 10: SHAP jämfört med modellspecifika metoder Exercise 11: Visualisering av SHAP-förklarbarhet Exercise 12: Diagram över särdragsvikter för antagningsanalys Exercise 13: Analysera särdragseffekter med beeswarm-diagram Exercise 14: Utvärdera påverkan med partiella beroendeplot

Fördjupa dig i lokal förklarbarhet och lär dig att förklara enskilda prediktioner. Lär dig använda SHAP för lokal förklarbarhet. Bemästra LIME för att identifiera de specifika faktorer som påverkar enstaka utfall – oavsett om det gäller text-, tabell- eller bilddata.

Exercise 1: Lokal förklarbarhet med SHAP Exercise 2: Global vs. lokal förklarbarhet Exercise 3: SHAP för att förklara inkomstnivåer Exercise 4: Lokal förklarbarhet med LIME Exercise 5: Lokal tolkning av regressorer Exercise 6: Lokal tolkning av klassificerare Exercise 7: Text- och bildförklarbarhet med LIME Exercise 8: Förklara prediktioner för sentimentanalys Exercise 9: Förklara prediktioner för matbilder

Utforska avancerade ämnen inom förklarbar AI genom att utvärdera modellers beteende och förklaringsmetoders effektivitet. Lär dig bedöma förklaringars konsekvens och trovärdighet, fördjupa dig i analys av oövervakade modeller och lär dig att klargöra resonemangsprocesserna hos generativa AI-modeller som ChatGPT. Skaffa dig tekniker för att mäta och förbättra förklarbarhet i komplexa AI-system.

Exercise 1: Förklarbarhetsmått Exercise 2: Utvärdera konsistensen hos SHAP-förklaringar

Aktuell övning

Exercise 3: Utvärdera trovärdighet med LIME Exercise 4: Förklara oövervakade modeller Exercise 5: Särdragets inverkan på klusterkvalitet Exercise 6: Särdragets vikt vid klustring med ARI Exercise 7: Att förklara chattbaserade generativa AI-modeller Exercise 8: Tankekedjor för att synliggöra resonemanget Exercise 9: Självkonsistens för att bedöma säkerhet Exercise 10: Grattis