最終更新日：2026年8月27日
gk security privacy
G検定トップ
＞ データ窃取攻撃（Data Extraction Attack）とは？【G検定対策】
まず結論
データ窃取攻撃（Data Extraction Attack）は、学習済みモデルから、学習データの内容や特徴を推定・復元しようとする攻撃です。
G検定では、
- データの内容を狙う → データ窃取
- 学習に含まれたかを狙う → メンバーシップ推論
- モデルの挙動を狙う → モデル窃取
と切り分けます。
直感的な説明
モデルに問い合わせを重ね、その応答から、
「このモデルは、どんなデータを覚えているのか？」
を逆方向に探ろうとするイメージです。
対象や攻撃方法によって、特定の学習例を復元しようとする場合もあれば、学習データの特徴を推定しようとする場合もあります。
定義・仕組み
データ窃取・学習データ抽出と呼ばれる攻撃では、モデルへの入力と出力、場合によってはモデルへのアクセス情報などを利用し、訓練データに由来する情報の復元・推定を狙います。
攻撃方法は1種類ではありません。「APIへ大量に問い合わせれば必ず復元できる」というものでもなく、モデルの記憶、出力内容、アクセス条件などによってリスクは変わります。
いつ使う？（得意・不得意）
リスクを考える場面には、次があります。
- 外部公開された生成モデル・推論API
- 学習データに機密情報や個人情報を含むモデル
- 出力から訓練例が露出する可能性があるモデル
対策としては、アクセス制御、出力設計、過度な記憶を抑える学習、プライバシー保護技術などを組み合わせます。
G検定ひっかけポイント
- ❌「ある人のデータが学習に使われたかだけを判定」→ メンバーシップ推論攻撃
- ❌「対象モデルと似たモデルを作る」→ モデル窃取攻撃
- ⭕「学習データの内容・特徴を復元または抽出」→ データ窃取攻撃
- ❌「公開APIなら必ず学習データを抽出できる」→ 成立条件はモデルやアクセス方法による
まとめ（試験直前用）
- データ窃取攻撃＝学習データ由来の情報を狙う
- membership inference＝含まれたかを狙う
- model extraction＝モデルの挙動を狙う
- 「何を盗もうとしているか」で切り分ける