あなたの友人は研究プロジェクトで Large Language Model（LLM）が示す洞察に満ちた回答に魅了されています。彼らは、モデルがどのようにその結論に至っているのかを理解したいと考えています。
LLMは自分の応答に直接注釈を付けられないため、LLMの推論プロセスについて洞察を得るには、どのような戦略を友人に勧めますか？
この演習はコースの一部です
理論を実践に変える、インタラクティブな演習のひとつをお試しください
Explainable AI（XAI）を取り上げ、AIシステムを透明・解釈可能・信頼できるものにする役割を強調します。AIの予測やコンテンツ生成の能力を概観し、意思決定プロセスを明確にする必要性を示します。さらに、複雑なAIモデルを幅広い受け手にとって理解しやすくするための方法も学びます。
Explainable AI（XAI）の手法を取り上げ、モデル特化、モデル非依存、ローカル、グローバルという観点で分類し、AIの意思決定をどのように説明するかを明確にします。モデル特化の観点では回帰と分類を扱い、ブラックボックスモデルの解釈にはSHAPとLIMEを紹介します。さらに、大規模言語モデル（LLM）の複雑さに触れ、その意思決定プロセスの透明性がなぜ重要かを強調します。
現在の演習
XAIがAIをさまざまな分野でより身近で使いやすいものにする変革的な効果を探ります。最初から説明可能性を組み込むことで、AIシステムの透明性を確保し、信頼を育み、人と機械のより深い協働を促進します。実世界の事例を通じて、XAIが複雑なAIの判断をどのように見える化し、さまざまな技術的背景を持つユーザーがAIの洞察を活用して、より良い意思決定につなげられるようにするかを示します。
