最終更新日:2026年8月26日
gk
G検定トップ
> ベイズ最適化とは?(グリッド・ランダムとの違い)【G検定対策】
まず結論
ベイズ最適化は、これまで試した結果を使って、次に試すと有望そうなハイパーパラメータを選ぶ探索手法です。
G検定では、
- 全組み合わせ → グリッドサーチ
- ランダムに試す → ランダムサーチ
- 過去の評価結果を使って次を選ぶ → ベイズ最適化
と切り分けます。
直感的な説明
お店探しにたとえると、
- グリッドサーチ:候補店を全部回る
- ランダムサーチ:何店かランダムに入る
- ベイズ最適化:これまで良かった店の傾向から、次に良さそうな店を選ぶ
という違いです。
ポイントは、試すたびに得た情報を次の探索へ反映することです。
定義・仕組み
ベイズ最適化では、ハイパーパラメータと評価値の関係を直接すべて計算する代わりに、代理モデル(surrogate model)で近似します。
代表的な流れは次の通りです。
- いくつかの設定を試して評価値を得る
- 代理モデルで「どこが良さそうか」を推定する
- 獲得関数を使って次に試す点を決める
- 新しい評価結果を加えて更新する
代理モデルにはガウス過程などが使われますが、G検定では手法名の細部より、過去結果を使って逐次的に探索することが重要です。
いつ使う?(得意・不得意)
向いている場面
- 1回の学習・評価に時間や費用がかかる
- 試行回数をなるべく減らしたい
- ハイパーパラメータ探索を効率化したい
注意点
- 必ず最適解が見つかるわけではない
- 代理モデルや獲得関数の計算コストもある
- 次の点を独立に大量並列で試す用途では、単純なランダムサーチが扱いやすい場合もある
G検定ひっかけポイント
- ❌「ベイズ最適化は全候補を網羅する」
- それはグリッドサーチの特徴です。
- ❌「各試行は過去の結果と無関係にランダムに決める」
- それはランダムサーチに近い説明です。
- ❌「ベイズ最適化はモデルの重みを更新する最適化手法」
- ここで扱うのは主にハイパーパラメータ探索です。
- ⭕「過去結果から次の候補を選ぶ」→ ベイズ最適化
まとめ(試験直前用)
- グリッド=全組み合わせ
- ランダム=ランダム試行
- ベイズ=過去結果を使う逐次探索
- 代理モデルで評価関数を近似する
- 1回の評価が高コストなときに有効