最終更新日:2026年7月14日
gk model_selection generalization
G検定トップ
> オッカムの剃刀とは?シンプルなモデルを選ぶ考え方【G検定】
まず結論
- オッカムの剃刀(Occam’s Razor)とは、同じ程度に説明できるなら、必要以上に多くの仮定を置かないという考え方です。
- G検定では、複雑なモデルを無条件に選ぶのではなく、説明力が同程度ならシンプルなモデルを選ぶ判断基準として整理します。
| 問題文の表現 | 判断 |
|---|---|
| 必要以上に仮定を増やさない | オッカムの剃刀 |
| どの問題にも万能なモデルはない | ノーフリーランチ定理 |
| 仮定なしでは分類できない | みにくいアヒルの子定理 |
直感的な説明
同じ結果を説明できる2つの考え方があるとします。
- 仮定が多くて複雑な説明
- 仮定が少なくてシンプルな説明
このとき、余計な仮定を増やさず、シンプルな方をまず選ぶのがオッカムの剃刀です。
「余分な仮定を剃り落とす」とイメージすると覚えやすくなります。
ただし、単純なら何でも正しいという意味ではありません。
説明力が同程度なら、より単純な方を選ぶ
という条件が重要です。
定義・仕組み
オッカムの剃刀は、中世の思想家ウィリアム・オッカムに由来する原理です。
基本的な考え方は次のとおりです。
- 複数の理論やモデルが、同じ程度に現象を説明できる
- その中から、仮定や構造がより少ないものを選ぶ
機械学習では、モデルが複雑になりすぎると、学習データに過度に合わせてしまうことがあります。これが過学習です。
そのため、性能が同程度なら、必要以上に複雑なモデルを避ける考え方は、モデル選択や正則化の直感につながります。
ただし、オッカムの剃刀そのものが、単純なモデルの高い汎化性能を必ず保証するわけではありません。
| 観点 | オッカムの剃刀での考え方 |
|---|---|
| 比較条件 | 説明力や性能が同程度 |
| 選ぶもの | 仮定や構造が少ない方 |
| 避けたいこと | 必要のない複雑化 |
| 関連する話 | モデル選択、過学習、正則化 |
いつ使う?(得意・不得意)
使われる場面
- 複数のモデルから候補を選ぶ
- 仮説を比較する
- 不要な特徴量やパラメータを減らす
- 正則化の考え方を理解する
得意な考え方
性能がほぼ同じモデルAとモデルBがある場合に、構造が単純で説明しやすいモデルを選ぶ判断です。
注意点
- 常に最も単純なモデルが正しいわけではない
- 単純すぎて必要な関係まで表せないモデルは選ばない
- 比較するモデルの説明力や性能が同程度であることが前提
G検定では、複雑さだけで決めるのではなく、説明力とのバランスを見ると理解しておきます。
G検定ひっかけポイント
よくある混同1:バーニーおじさんのルール
- ❌ 仮定を少なくする原理
- ⭕ 必要なデータ量に関する経験則
よくある混同2:ノーフリーランチ定理
- ❌ シンプルなモデルを選ぶ原理
- ⭕ すべての問題に対して万能な学習アルゴリズムはないという考え方
よくある混同3:みにくいアヒルの子定理
- ❌ 不要な仮定を減らす原理
- ⭕ 特徴の重要度に関する仮定なしでは、分類できないという主張
よくある混同4:単純なモデルは必ず高性能
オッカムの剃刀は、単純なモデルが常に正しいとする原理ではありません。
説明力が異なるなら、必要な複雑さを持つモデルを選ぶこともあります。
選択肢を切る判断基準
- 「必要以上に多くの仮定を用いない」→ オッカムの剃刀
- 「説明力が同じなら単純なモデル」→ オッカムの剃刀
- 「データ量とパラメータ数の関係」→ バーニーおじさんのルール
- 「万能なモデルはない」→ ノーフリーランチ定理
- 「仮定なしでは分類不能」→ みにくいアヒルの子定理
まとめ(試験直前用)
- オッカムの剃刀=必要以上に仮定を増やさない
- 説明力が同程度なら、よりシンプルな理論・モデルを選ぶ
- 機械学習では、モデル選択や過学習防止の直感につながる
- 「単純なモデルが必ず正しい」という意味ではない
- ノーフリーランチ定理とは、万能なモデルがないという別の考え方
- 選択肢では、仮定を減らす話かどうかで判断する