最終更新日：2026年9月24日
gk security
G検定トップ
＞ データポイズニング攻撃とは？学習データを汚染する攻撃【G検定】
まず結論
データポイズニング（Data Poisoning）攻撃は、モデルの学習前・学習中に、学習データやラベルを攻撃者が汚染して、学習結果を操作する攻撃です。
G検定では、
学習データを汚す → Poisoning
推論時の入力を細工する → Adversarial Example / Evasion
で切ります。
直感的な説明
AIに間違った教科書を混ぜて学習させるイメージです。
たとえば「この特定マークが付いた画像だけ、猫を犬と判定させたい」というように、特定条件で誤動作するモデルを作らせる攻撃もあります。
定義・仕組み
攻撃者が、
- 不正な学習サンプルを追加
- ラベルを改変
- 学習データの一部を書き換える
などして学習過程へ影響を与えます。
狙いには、
- 全体性能を低下させる
- 特定対象だけ誤分類させる
- バックドア挙動を埋め込む
などがあります。
いつ使う？（得意・不得意）
リスクが高まりやすいのは、
- 外部から収集したデータを自動で学習へ使う
- ユーザー投稿を学習データに取り込む
- データ作成・ラベル付け工程の信頼性が低い
場合です。
対策では、データの出所・完全性・異常値・ラベル品質の確認などが重要になります。
G検定ひっかけポイント
Poisoning＝推論時攻撃？
❌ 学習済みモデルへ細工入力を与える
⭕ 学習データ・学習過程を汚染する
Poisoning＝データ窃取？
❌ 学習データを復元して盗む
⭕ 学習用データを改変・混入する
Backdoor
バックドア攻撃は、特定のトリガー入力で狙った挙動を起こすよう、Poisoningによって仕込まれる場合があります。
まとめ（試験直前用）
- Poisoning＝学習データを汚す
- ラベル改変・不正データ混入
- 全体性能低下または標的挙動を狙う
- 推論時のEvasionとは別
- データ窃取とも別
- 学習時か推論時かを見る