最終更新日:2026年9月24日
gk xai
まず結論
XAI(Explainable AI)は、AIモデルの予測や判断を人が理解・検証しやすくするための考え方・手法群です。
G検定では、まず次の軸で整理します。
- 1件の予測を説明 → 局所説明
- モデル全体の傾向を説明 → 大域説明
- モデル内部を利用 → モデル固有
- 入出力だけで説明 → モデル非依存
直感的な説明
AIが「不良」と判定したとき、
なぜこの1件を不良としたのか?
を見るのが局所説明です。
一方、
このモデルは全体として、どの特徴を重視しているのか?
を見るのが大域説明です。
XAIは、このような説明を作るための道具や考え方をまとめた呼び方です。
定義・仕組み
代表的な手法には、
などがあります。
説明と因果は別
特徴量の寄与やヒートマップが得られても、
その特徴が予測結果の因果原因である
と自動的に証明されるわけではありません。
説明手法はモデルの挙動を理解する手掛かりであり、因果推論とは別の問題です。
説明の忠実性
説明が分かりやすくても、元モデルの判断を十分に忠実に表しているとは限りません。
特にLIMEのような局所近似では、近似範囲やサンプリング方法によって説明が変わる場合があります。
いつ使う?(得意・不得意)
説明可能性が重要になりやすいのは、
- モデルのデバッグ
- 判断根拠の確認
- 利用者への説明
- バイアスや異常な依存の発見
などです。
一方、説明を公開する範囲については、
- セキュリティ
- プライバシー
- 知的財産
などとのバランスも考える必要があります。
ただし、知的財産とのトレードオフだけがXAIの中心論点ではありません。
G検定ひっかけポイント
XAIを使えば精度が上がる?
❌ 自動的に予測精度が向上する
⭕ 理解・検証・説明を支援する
説明=因果?
❌ 寄与が大きい特徴は必ず原因
⭕ モデルの予測への寄与と因果関係は別
局所と大域
- 1件の予測 → 局所
- モデル全体の傾向 → 大域
説明は常に完全?
❌ XAIを使えばモデル内部を完全に理解できる
⭕ 説明手法にも近似・仮定・限界がある
まとめ(試験直前用)
- XAI=予測を理解・検証しやすくする手法群
- 局所説明 / 大域説明
- モデル固有 / モデル非依存
- 説明と因果は別
- 説明の忠実性にも注意
- 精度向上そのものが目的ではない