破壊的忘却を防ぐ方法はEWCとリプレイ手法を理解するための用語です。この記事では仕組み・役割・使いどころを押さえ、G検定で問われる判断ポイントとひっかけポイントを解説します。

gk neural_network

G検定トップ ＞ 破壊的忘却を防ぐ方法とは？EWCとリプレイ手法【G検定対策】

まず結論

  • 破壊的忘却を防ぐ代表的手法は「EWC（Elastic Weight Consolidation）」と「リプレイ手法」である。
  • G検定では「何を固定するのか／何を再学習するのか」の違いが問われる。

直感的な説明

破壊的忘却への対策は、大きく2つの考え方があります。

  • EWC：
    👉「大事な重みは、なるべく動かさない」
  • リプレイ：
    👉「昔の問題も、ときどき解き直す」

人間にたとえると、

  • EWCは「重要ノートを上書き禁止にする」
  • リプレイは「復習テストを入れる」

という違いです。

定義・仕組み

EWC（Elastic Weight Consolidation）

  • 過去タスクで 重要だったパラメータ を推定
  • そのパラメータが大きく変わらないように 制約（正則化） をかける
  • Fisher情報量を使って「重要度」を評価

ポイント：

  • 重みを固定する発想
  • 追加データは不要
  • 数学的・理論的アプローチ

リプレイ手法（Replay）

  • 過去タスクのデータ（または生成データ）を保存
  • 新しいタスク学習時に 過去データも一緒に学習
  • 忘却を「復習」で防ぐ

ポイント：

  • データを再利用する発想
  • 実装が直感的
  • メモリ容量が必要

いつ使う？（得意・不得意）

EWCが向いているケース

  • 過去データを保存できない
  • モデルの重み制御で対処したい
  • 理論的に整理された方法が必要

リプレイが向いているケース

  • 過去データを保持できる
  • 忘却を確実に防ぎたい
  • 実装の分かりやすさを重視

注意点

  • EWC：タスク数が増えると制約が増えがち
  • リプレイ：データ保存コストがかかる

G検定ひっかけポイント

G検定では次の点を狙ってきます。

よくある誤解

  • ❌「EWCはデータを再学習する」
  • ❌「リプレイは重みを固定する」
  • ❌「破壊的忘却は防げない」

正しい判断基準

  • 重みを守る → EWC
  • 過去データを再学習 → リプレイ
  • 連続学習の対策 → 両方あり

問題文に
「パラメータの重要度」「正則化」
があれば EWC。

「過去データを混ぜる」「再学習」
があれば リプレイ。

まとめ（試験直前用）

  • 破壊的忘却は連続学習の問題
  • EWC：重要な重みを動かさない
  • リプレイ：過去データで復習
  • EWCはデータ不要、リプレイはデータ必要
  • 「重み」か「データ」かで切る

🔗 関連記事

🏠 G検トップに戻る