最終更新日：2026年8月27日
gk security privacy
G検定トップ
＞ モデル窃取攻撃（Model Extraction Attack）とは？【G検定対策】
まず結論
モデル窃取攻撃（Model Extraction / Model Stealing Attack）は、対象モデルへの入力と出力を利用し、その挙動を模倣する代替モデルを構築しようとする攻撃です。
G検定では、学習データではなくモデル側の能力・挙動を狙うと切り分けます。
直感的な説明
ブラックボックスのAIに何度も入力を与え、返ってきた答えを学習材料にすると、
中の重みを直接盗まなくても、似た振る舞いをするモデルを作れる場合がある
というイメージです。
定義・仕組み
モデル窃取攻撃では、公開APIなどへの問い合わせ結果を収集し、対象モデルの入出力関係を学習してサロゲートモデル（代替モデル）を作ろうとします。
必ず元モデルと完全に同じ構造・重み・性能を再現できるわけではありません。狙いは、対象モデルの機能や判断境界などを十分に模倣することです。
いつ使う？（得意・不得意）
リスクが高まりやすい例です。
- 外部公開された推論API
- 大量の問い合わせが可能
- 詳細な確率・スコアを返すサービス
対策として、レート制限、出力情報の設計、異常な問い合わせの監視などが検討されます。
G検定ひっかけポイント
- ❌「学習データの内容を復元する」→ データ窃取攻撃
- ❌「特定データが学習に含まれたかを推定する」→ メンバーシップ推論攻撃
- ⭕「モデルの挙動を模倣する代替モデルを構築する」→ モデル窃取攻撃
- ❌「元モデルの重みを直接コピーする攻撃だけを指す」→ 問い合わせから模倣する攻撃も含む
まとめ（試験直前用）
- Model Extraction＝モデルの挙動・能力を狙う
- 入出力を利用して代替モデルを構築する
- 元モデルと完全同一になるとは限らない
- データ窃取・メンバーシップ推論とは狙いで切り分ける