gk security privacy
G検定トップ
> メンバーシップ推論攻撃(Membership Inference Attack)とは?【G検定対策】
まず結論
メンバーシップ推論攻撃(Membership Inference Attack)とは、
あるデータが学習データに含まれていたかどうかを、学習済みモデルの出力結果から推定する攻撃である。
G検定では「データを抜く攻撃」との違いを区別できるかが問われる。
直感的な説明
この攻撃は、
「中身を盗む」のではなく「履歴を探る」イメージ。
たとえば、
- ある人物のデータを入力する
- モデルの反応が異常に自信満々だった
このとき
「この人のデータ、学習に使われてたのでは?」
とYES / NO を推測するのがメンバーシップ推論攻撃。
定義・仕組み
メンバーシップ推論攻撃とは、
モデルの出力(予測結果や確率)を利用して、
特定のデータが学習データセットに含まれていたかどうかを推定する攻撃
を指す。
重要な点は次の通り。
- 学習データの中身を復元しない
- あくまで 含まれていたか否かの判定
- 過学習しているモデルほど成功しやすい
G検定では
「プライバシー侵害リスク」の代表例として出題される。
いつ使う?(得意・不得意)
成立しやすい状況
- 過学習しているモデル
- 出力に確率やスコアが含まれる
- 学習データと未知データで挙動が違う場合
成立しにくい状況
- 汎化性能が高いモデル
- 出力が単純(ラベルのみ)
- 差分プライバシーなどの対策をしている場合
👉 過学習=メンバーシップ推論攻撃に弱い、は頻出関係。
G検定ひっかけポイント
ここが一番重要。
データ窃取攻撃との違い
- ❌ データ窃取攻撃
→ 学習データの一部や特徴を抽出 - ✅ メンバーシップ推論攻撃
→ 学習データに含まれていたかを判定
選択肢での判断基準
- 「学習データを復元・抽出」
→ データ窃取攻撃 - 「含まれていたかどうかを推定」
→ メンバーシップ推論攻撃 - 「YES / NO の推定」
→ 高確率でメンバーシップ推論攻撃
G検定では
「抜く」か「含まれていたか」かで切る。
まとめ(試験直前用)
- メンバーシップ推論攻撃=学習に使われたかを推定
- データそのものは抽出しない
- 過学習モデルほど危険
- データ窃取攻撃と必ず対比される
- 「含まれていたか?」→ メンバーシップ推論攻撃
🔗 関連記事
- アクセス制御リスト(ACL)とは?ファイル権限の基本を整理【DS検定】
- 認証と認可の違いとは?アクセス制御を一発で整理【DS検定】
- 認証と認可の違いとは?一発で整理【DS検定リテラシー】
- データ・AI利活用における留意事項とは?【DS検定リテラシー】
- 電子署名とは?仕組みと公開鍵・秘密鍵の違いを整理【DS検定】
🏠 G検トップに戻る