最終更新日：2026年8月26日
gk
G検定トップ
＞ 交差検証とハイパーパラメータ探索の組み合わせ【G検定】
まず結論
交差検証と探索は役割が違います。
探索＝候補を試す
交差検証＝候補を比較評価する
G検定では、ハイパーパラメータを探す処理と、性能を評価する処理を混同しないことが重要です。
直感的な説明
候補をいくつか出して、それぞれを同じ採点方法で比べるイメージです。
- グリッドサーチなど：どの設定を試すか
- 交差検証：その設定が安定して良いか
候補を出す人と採点する人の役割が分かれています。
定義・仕組み
たとえば、学習率や正則化係数を複数候補から選ぶとします。
- 探索手法が候補を決める
- 各候補についてk-fold交差検証を行う
- foldごとの評価を平均する
- 良い候補を選ぶ
代表的な探索手法は次のとおりです。
| 手法 | 候補の選び方 |
|---|---|
| グリッドサーチ | 指定した組合せを網羅的に試す |
| ランダムサーチ | 候補をランダムに試す |
| ベイズ最適化 | 過去の試行結果を使って次の候補を選ぶ |
重要なのは、ここで使う交差検証の評価はモデル選択のための検証だという点です。
いつ使う？（得意・不得意）
- ハイパーパラメータを比較したい
- データを有効活用しながらモデル選択したい
- 1回のhold-outだけより安定した比較をしたい
一方で、探索候補数 × fold数だけ学習回数が増えるため、計算コストは大きくなります。
G検定ひっかけポイント
- ❌ 交差検証そのものが探索手法 → 誤り
- ❌ グリッドサーチが汎化性能を保証する → 誤り
- ⭕ 探索で候補を出し、交差検証で比較する → 正しい
- ❌ 探索に使った交差検証結果を、そのまま完全に独立な最終評価とみなす → 注意
モデル選択後の最終評価には、別に残しておいたテストデータを使うのが基本です。
まとめ（試験直前用）
- 探索＝候補を試す
- 交差検証＝候補を比較評価する
- 探索とCVは組み合わせて使える
- 計算量は増える
- 最終評価用のテストデータは別に残す
関連： 交差検証 / グリッドサーチとランダムサーチ / 学習・検証・テストデータ