最終更新日:2026年8月26日
gk machine_learning ensemble
G検定トップ
> ランダムフォレストとは?バギングとの関係【G検定対策】
まず結論
ランダムフォレスト(Random Forest)は、多数の決定木を作り、その予測を多数決や平均で統合するバギング系のアンサンブル学習です。
G検定では、次の2つをセットで押さえます。
- データをランダム化 → ブートストラップ標本
- 特徴量もランダム化 → 木同士を似すぎないようにする
直感的な説明
1本の決定木だけに判断を任せるのではなく、少しずつ違う情報を見た多数の決定木に投票してもらうイメージです。
木同士が同じ失敗をしにくくなるほど、平均・多数決によって予測のばらつきを抑えやすくなります。
定義・仕組み
典型的なランダムフォレストでは、次の流れで学習します。
- 訓練データからブートストラップ標本を作る
- 各決定木を学習する
- 各分割では特徴量の一部をランダムに候補として使う
- 分類は多数決、回帰は平均などで統合する
特徴量のランダム選択は、木同士の相関を下げるための重要な仕組みです。
いつ使う?(得意・不得意)
得意な場面
- 表形式データ
- 非線形な関係を扱いたい
- 単一の決定木より安定した予測を得たい
注意点
- 単一の決定木より全体像を説明しにくい
- 木の本数などに応じて計算量が増える
- 過学習を起こさないと保証されるわけではない
G検定ひっかけポイント
- ❌「前の木の誤りを次の木が逐次修正する」→ ブースティングの考え方
- ❌「特徴量は毎回すべて使う」→ ランダムフォレストでは分割ごとに候補特徴量をランダムに絞る
- ⭕「ブートストラップ+特徴量ランダム化」→ Random Forest
- ⭕「多数決・平均」→ バギング系
まとめ(試験直前用)
- Random Forest=多数の決定木を統合
- バギング系の代表例
- データと特徴量をランダム化
- 木同士の相関を下げ、分散を抑える方向に働く
- 逐次補正ならBoosting、並列統合ならRandom Forest