最終更新日:2026年8月27日
gk machine_learning evaluation
G検定トップ
> バイアス・バリアンス トレードオフとは?モデル複雑度との関係【G検定対策】
まず結論
バイアス・バリアンス トレードオフとは、モデルの複雑さを変えると、バイアスとバリアンスが反対方向に動きやすいという考え方です。
G検定では次の方向を押さえます。
単純すぎるモデル
→ 高バイアス
→ 未学習
複雑すぎるモデル
→ 高バリアンス
→ 過学習
ただし、必ず一方を下げれば同じ量だけもう一方が上がる、という絶対法則ではありません。
直感的な説明
ルールを大ざっぱにしすぎると、重要な違いまで無視してしまいます。逆に細かくしすぎると、学習データだけに通用する例外ルールまで覚えてしまいます。
大ざっぱすぎる
→ 本質を捉えられない
→ バイアスが大きい
細かすぎる
→ データの細部に振り回される
→ バリアンスが大きい
目標は、未知データで使える汎化性能が高くなるバランスを探すことです。
定義・仕組み
基本用語そのものは、バイアスとバリアンスの記事で整理しています。このページでは、モデル複雑度を変えたときの関係に焦点を当てます。
| モデルの傾向 | バイアス | バリアンス | 起こりやすい状態 |
|---|---|---|---|
| 単純すぎる | 高い | 低めになりやすい | 未学習 |
| 適度 | バランス | バランス | 汎化しやすい |
| 複雑すぎる | 低い | 高くなりやすい | 過学習 |
対策の方向
高バイアスなら、モデルの表現力不足や学習不足を疑います。
- モデルを適切に複雑化する
- 有効な特徴量を追加する
- 学習不足なら学習条件を見直す
高バリアンスなら、過学習を抑える方向を考えます。
- 正則化を使う
- データ量・多様性を増やす
- DropoutやEarly Stoppingを使う
いつ使う?(得意・不得意)
この考え方は、訓練性能と検証性能を見て次に何を調整するか考えるときに役立ちます。
特に学習曲線と組み合わせると判断しやすくなります。
- 訓練も検証も悪い → 高バイアス寄り
- 訓練は良いが検証が悪い → 高バリアンス寄り
ただし原因は一つとは限りません。データ品質や評価方法にも問題がないか確認します。
G検定ひっかけポイント
❌ バイアスとバリアンスは絶対に同時に改善できない
言い切りすぎです。G検定では、モデル複雑度を調整すると一般にトレードオフが生じやすいという理解が安全です。
❌ モデルは複雑なほど性能がよい
訓練データには合いやすくても、未知データでは高バリアンスによって性能が落ちることがあります。
判断基準
- 単純すぎる・訓練から悪い → 高バイアス
- 訓練だけ良い・検証と差がある → 高バリアンス
- 正則化を強める → 一般に複雑さを抑え、高バリアンス対策の方向
まとめ(試験直前用)
- 単純すぎる → 高バイアス → 未学習
- 複雑すぎる → 高バリアンス → 過学習
- トレードオフはモデル複雑度との関係で理解する
- 高バリアンスには正則化やデータ追加を検討
- 「必ず同時に小さくできない」と絶対視しない