最終更新日：2026年8月27日
gk xai neural_network cheatsheet
まず結論
XAI（Explainable AI）は、AIの予測や判断を人が理解・検証しやすくするための考え方・手法群です。
G検定では、LIME・SHAP・CAM・Grad-CAMを、
- 何を説明するか
- どのモデルへ使うか
- 何の情報を利用するか
で切り分けます。
直感的な説明
- LIME → この1件の周辺では、どう説明できる？
- SHAP → 各特徴量はこの予測へどれくらい寄与した？
- CAM → 画像分類CNNのどの場所がクラス判断へ効いた？
- Grad-CAM → 対象出力の勾配を使って、どの場所を重視したか見る
「どれが常に速い」「どれが常に正確」という順位ではなく、説明したい対象に合うかを見ます。
定義・仕組み
LIME
LIME（Local Interpretable Model-agnostic Explanations）は、説明したい入力の周辺でモデルの挙動をサンプリングし、単純で解釈しやすいモデルを局所的に当てはめる方法です。
- 主に局所説明
- 元モデルの内部構造を直接使わないモデル非依存型
- 近似なので、説明の安定性や設定に注意する
SHAP
SHAP（SHapley Additive exPlanations）は、ゲーム理論のシャープレイ値を基に、特徴量が予測へどれだけ寄与したかを表します。
- 個々の予測を説明できる
- 複数のSHAP値を集約して全体傾向を見ることもできる
- 計算方法・近似方法は複数あり、計算量は実装やモデルによって異なる
CAM
元祖CAM（Class Activation Mapping）は、CNNの最終畳み込み特徴マップとクラス分類の重みを使って、クラス判断に寄与した領域を可視化します。
代表的な元祖CAMでは、Global Average Pooling（GAP）から線形分類器へつながる構造が前提になります。
Grad-CAM
Grad-CAMは、対象クラスなどの出力に対する勾配を使って特徴マップを重み付けし、重要領域を可視化します。
- 元祖CAMと同じGAP構造を必須としない
- 一般にはCNNなど、空間的な特徴マップを持つモデルで使われる
- 可視化結果は説明の手掛かりであり、因果関係を完全に証明するものではない
いつ使う？（得意・不得意）
| 手法 | 判断の中心 |
|---|---|
| LIME | 1件の予測の周辺を局所近似 |
| SHAP | シャープレイ値に基づく特徴量寄与 |
| CAM | GAPを使う代表的CNN構造でクラス領域を可視化 |
| Grad-CAM | 対象出力の勾配で特徴マップを重み付け |
LIME / SHAPは表形式データなどでも使われます。CAM / Grad-CAMは主に画像モデルの空間的な説明で登場します。
G検定ひっかけポイント
- ❌「XAIを使えば精度が自動的に上がる」
- ❌「SHAPは大域説明だけ、LIMEは局所説明だけと完全に二分する」
- ❌「SHAPは常に遅く、LIMEは常に速い」
- ❌「GAPが必要なのはGrad-CAM」→ 元祖CAMの構造条件として覚える
- ❌「Grad-CAMはCAMより必ず高精度」→ 説明手法を単純な精度順位で比べない
- ❌「XAIはCNN専用」
まとめ（試験直前用）
- LIME → 局所近似
- SHAP → 特徴量寄与・シャープレイ値
- CAM → 元祖手法はGAPを使う構造に依存
- Grad-CAM → 勾配を使う可視化
- XAIは精度向上そのものではなく、理解・検証・説明を支える
続けて問題形式で確認するなら、XAI ひっかけ問題集①も使えます。