モデル非依存とモデル固有の説明可能性アプローチについて、次の記述のうち正しいものはどれですか？ 正解は2つあります。
この演習はコースの一部です
理論を実践に変える、インタラクティブな演習のひとつをお試しください
まずはExplainable AIの基礎概念を学びましょう。決定木から意思決定ルールを抽出する方法を理解します。線形モデルと木ベースモデルを用いて特徴量重要度を算出・可視化し、これらのモデルがどのように予測しているかを把握して、より透明性の高い意思決定につなげます。
現在の演習
モデルに依存しない手法を活用して、さまざまなモデルにおける特徴量の影響力を見極めましょう。Permutation importanceやSHAP値を用いて、特徴量がモデルの挙動に与える影響を分析します。さらに、SHAPの可視化ツールを活用して、説明可能性の概念をより理解しやすくします。
ローカルな説明可能性に踏み込み、個々の予測を説明します。SHAPを活用したローカル説明を学び、LIMEを使って単一の結果に影響する具体的な要因を明らかにします。テキスト、表形式、画像データなど、さまざまなデータタイプに対応します。
Explainable AIの発展的トピックとして、モデルの挙動や説明手法の有効性を評価します。説明の一貫性や忠実性の評価に習熟し、教師なしモデルの分析を深め、ChatGPTのような生成AIモデルの推論過程の可視化方法を学びます。複雑なAIシステムにおける説明可能性を測定・向上させるテクニックを身につけましょう。
