LIME으로 faithfulness 평가하기
소득 데이터셋의 예시 X_instance에 대한 LIME 설명이 제공되어 있어요. 성별이 가장 중요한 예측 변수이므로, 해당 값을 변경하고 faithfulness를 계산하여 이 인스턴스에서 설명이 모델의 동작과 얼마나 잘 맞는지 확인하세요.
이 연습은 강의의 일부입니다
Python으로 배우는 Explainable AI
연습 안내
X_instance에서 성별 값을 0으로 바꾸세요.new_prediction확률을 생성하세요.- LIME 설명의
faithfulness를 추정하세요.
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
original_prediction = model.predict_proba(X_instance)[0, 1]
print(f"Original prediction: {original_prediction}")
# Change the gender value to 0
____
# Generate the new prediction
new_prediction = ____
print(f"Prediction after perturbing 'gender': {new_prediction}")
# Estimate faithfulness
faithfulness_score = ____
print(f"Local Faithfulness Score: {faithfulness_score}")