Esplorando SHAP

Una delle ragioni che rendono magici strumenti XAI (Explainable AI) come SHAP è la capacità di mostrare non solo l’importanza complessiva delle caratteristiche predittive alla base di un modello, ma anche l’importanza specifica e la relazione tra le caratteristiche di input e l’output o la previsione di uno specifico risultato del modello.

Il grafico seguente mostra l'importanza dei diversi punteggi dei test accademici statunitensi nella stima della probabilità di ammissione all'università, per un singolo studente. La previsione del modello è un punteggio di 0,63 per la decisione di ammissione di questo studente.

Di seguito sono riportate quattro affermazioni relative all'importanza delle caratteristiche e al comportamento del modello in questa previsione individuale.

Una di queste affermazioni è falsa. Riesci a trovarla?