最終更新日：2026年8月27日
gk xai cheatsheet
G検定トップ
＞ XAI ひっかけ問題集①【G検定対策】
まず結論
XAIでは、手法名より「何を説明するか」「どんな前提があるか」で切り分けます。
- LIME → ある予測の周辺を単純なモデルで近似する局所説明
- SHAP → シャープレイ値に基づく特徴量寄与
- CAM → 元祖の手法ではGAPと線形分類器を使う構造が前提
- Grad-CAM → 対象出力の勾配を使って特徴マップを重み付けする可視化
直感的な説明
XAIは「精度を上げる手法」という分類ではなく、モデルの予測や内部の着目箇所を理解するための手法群です。
ただし、説明可能性を考慮したモデル設計や学習もあるため、
XAIなら必ず学習後に後付けする
とも限りません。
定義・仕組み
ひっかけ①「XAIは分類精度を上げるための手法である」
❌ その説明だけでは不適切。
XAIの中心は、予測理由やモデル挙動を理解・説明することです。説明結果を改善活動へ利用することはありますが、XAIを適用しただけで精度が上がるわけではありません。
ひっかけ②「Grad-CAMはGAPを使うCNNだけに適用できる」
❌ 不適切。
GAPと線形分類器を利用する構造上の条件が強いのは元祖CAMです。Grad-CAMは対象出力の勾配を利用するため、元祖CAMと同じGAP構造を必須とはしません。
ひっかけ③「LIMEはモデル全体をそのまま説明する」
❌ 不適切。
LIMEは主に、説明したい1つの予測の周辺を局所的に近似する手法です。
ひっかけ④「SHAPは常に遅く、LIMEは常に速い」
❌ 不適切。
計算量や実行時間は、モデル、説明対象、実装、近似方法によって変わります。SHAPには複数の計算法・近似法があります。
速度だけでLIME / SHAPを判定しないのが安全です。
ひっかけ⑤「SHAPは大域説明だけに使う」
❌ 不適切。
SHAP値は個々の予測に対する特徴量寄与を説明でき、それらを集約して全体傾向を見ることもできます。
ひっかけ⑥「CAM / Grad-CAMはすべてのモデルに同じように使える」
❌ 不適切。
CAM系は主に画像モデルなどの空間的な特徴マップを可視化する文脈で使われます。LIME / SHAPとは対象・仕組みが異なります。
いつ使う？（得意・不得意）
| 問題文のキーワード | 疑う手法 |
|---|---|
| 1件の予測の周辺を単純モデルで近似 | LIME |
| シャープレイ値・特徴量寄与 | SHAP |
| GAP・クラス重み・活性化マップ | CAM |
| 対象クラスの勾配・特徴マップ | Grad-CAM |
速度や「精度が高い・低い」だけでは決めません。
G検定ひっかけポイント
- ❌「SHAP＝大域、LIME＝局所」と完全に二分する
- ❌「Grad-CAMはCAMより必ず高精度」
- ❌「GAPがあれば必ずGrad-CAM」
- ❌「XAIはCNN専用」
- ⭕ 対象モデル・説明対象・使う情報で切る
まとめ（試験直前用）
- LIME → 局所近似
- SHAP → シャープレイ値に基づく寄与
- CAM → 元祖手法はGAPを使う構造に依存
- Grad-CAM → 勾配で特徴マップを重み付け
- 速度・精度を一律に順位付けしない