最終更新日:2026年9月24日
gk neural_network cnn xai
まず結論
- CAM:最終畳み込み特徴マップと、GAP後のクラス分類重みを利用
- Grad-CAM:対象出力の勾配を使って特徴マップを重み付け
G検定では、
GAP+クラス重み → CAM
勾配 → Grad-CAM
で切ります。
直感的な説明
どちらも、
モデルが画像のどの領域をクラス判断に使ったか?
をヒートマップとして可視化する手法です。
ただし、ヒートマップは正解領域や因果関係を証明するものではありません。
定義・仕組み
CAM
元祖CAMでは、最終畳み込み層の各特徴マップをGAPし、その値を線形分類器へ入力します。
クラスごとの分類重みを使って、特徴マップを重み付き和し、クラス活性化マップを作ります。
したがって、元祖CAMは特定のネットワーク構造に依存します。
Grad-CAM
対象クラスなどの出力について、畳み込み特徴マップへの勾配を計算します。
勾配を空間方向に集約してチャネル重要度とし、特徴マップを重み付けします。
元祖CAMと同じGAP+線形分類器の構造を必須としません。
いつ使う?(得意・不得意)
- 画像分類CNNの説明
- モデルが背景だけを見ていないか確認
- 誤分類の調査
などで使われます。
Grad-CAMはCNN以外にも空間的特徴マップを持つ構造へ応用される場合がありますが、どんなモデルにもそのまま適用できる万能手法ではありません。
G検定ひっかけポイント
CAM
❌ 勾配を使うのが中心
⭕ クラス分類重みを利用
Grad-CAM
❌ 元祖CAMと同じ構造が必須
⭕ 対象出力の勾配を利用
可視化
❌ 赤い領域は必ず因果原因
⭕ モデル挙動を理解する手掛かり
まとめ(試験直前用)
- CAM=GAP+クラス重み
- Grad-CAM=勾配
- どちらも画像モデルの可視化に利用
- Grad-CAMは元祖CAMより構造制約が少ない
- ヒートマップは因果を保証しない