다음 중 모델 불가지론적 접근과 모델 특정적 접근에 대한 설명으로 옳은 것을 고르세요. 정답은 두 개입니다.
이 연습은 강의의 일부입니다
이론을 실습으로 바꾸는 인터랙티브 연습 중 하나를 만나보세요
Explainable AI의 기본 개념을 탐구하며 학습을 시작해 보세요. 의사결정나무에서 의사결정 규칙을 추출하는 방법을 배우고, 선형 및 트리 기반 모델에서 특성 중요도를 도출하고 시각화하여 모델이 예측을 수행하는 방식을 이해함으로써 더 투명한 의사결정을 가능하게 합니다.
현재 연습
모델 비특이적 기법을 활용해 다양한 모델 전반에서 특성의 영향력을 파악해 보세요. permutation importance와 SHAP 값을 사용해 특성이 모델 동작에 미치는 영향을 분석합니다. SHAP 시각화 도구를 살펴보며 설명 가능성 개념을 더 쉽게 이해할 수 있도록 합니다.
로컬 설명 가능성에 집중해 개별 예측을 설명해 보세요. 로컬 설명 가능성을 위해 SHAP을 활용하는 방법을 배우고, LIME을 익혀 텍스트, 표 형태, 이미지 데이터 등 단일 결과에 영향을 미치는 구체적 요인을 밝혀냅니다.
모델 동작과 설명 방법의 효과를 평가하며 Explainable AI의 고급 주제를 탐구하세요. 설명의 일관성과 충실도를 평가하는 역량을 갖추고, 비지도 모델 분석을 파고들며, ChatGPT 같은 생성형 AI 모델의 추론 과정을 명확히 하는 방법을 배웁니다. 복잡한 AI 시스템에서 설명 가능성을 측정하고 향상시키는 기법을 익히세요.
