gk
G検定トップ
> ベイズ最適化とは?(グリッド・ランダムとの違い)【G検定対策】
まず結論
ベイズ最適化とは、過去の評価結果をもとに次に試すハイパーパラメータを賢く決める探索手法であり、G検定では「グリッドサーチ・ランダムサーチとの探索戦略の違い」を理解しているかが問われる。
直感的な説明
3つの探索手法を、人探しにたとえると次の通りです。
-
グリッドサーチ:
- 町中をマス目状にすべて探す
-
ランダムサーチ:
- 当てずっぽうに何度か探す
-
ベイズ最適化:
- 「ここにいそう」という情報を使って次の場所を決める
つまり、
- グリッド:全部見る
- ランダム:適当に試す
- ベイズ:賢く次を選ぶ
という違いです。
定義・仕組み
ベイズ最適化は、
- ハイパーパラメータ
- モデル性能(評価値)
の関係を確率モデル(代理モデル)で近似し、
次に試すと「良さそう」な点
を選びながら探索します。
一般的には、
- ガウス過程などで性能を予測
- 改善が見込める点を選択
します。
重要なのは、
- 過去の結果を利用する
- 無駄な探索を減らす
という点です。
いつ使う?(得意・不得意)
得意なケース
- 評価に時間がかかるモデル
- 探索回数を少なく抑えたい場合
- ハイパーパラメータが多い場合
注意点
- 実装がやや複雑
- 初期探索が必要
G検定ひっかけポイント
G検定では、ランダムサーチとの違いが狙われます。
よくあるひっかけ
- ベイズ最適化はランダムに探索する → ✕
- ベイズ最適化は全探索する → ✕
正誤を切る判断基準
- 過去の結果を使う? → ベイズ最適化
- 全組み合わせ? → グリッドサーチ
- 回数指定でランダム? → ランダムサーチ
まとめ(試験直前用)
- グリッド:全探索
- ランダム:ランダム試行
- ベイズ:過去結果を使って次を決める
- 探索効率が高い
- G検定では「戦略の違い」を問われる
🔗 関連記事
🏠 G検トップに戻る