最終更新日:2026年9月26日
ds modeling
DS検定トップ
> ランダムフォレストとは?(特徴量重要度の考え方まで理解する)【DS検定】
まず結論
- ランダムフォレストとは、複数の決定木を組み合わせて予測することで精度と安定性を高めるモデル
- DS検定では「1本の木ではなく全体で判断する」「代表的な重要度の算出方法を区別する」がポイント
直感的な説明
1人の判断だと間違えることがありますが、
複数人の多数決なら安定した判断ができます。
ランダムフォレストはまさにこれで、
- 決定木1本 → 判断が偏りやすい
- 決定木100本 → 多数決で安定
というイメージです。
さらに重要なのは、
「どの特徴量が役に立ったかも全員の意見で判断する」
という点です。
定義・仕組み
ランダムフォレストは、
- 複数の決定木を作る
- それぞれ異なるデータ・特徴量で学習する
- 最後に多数決(分類)や平均(回帰)で予測する
というモデルです。
不純度ベースの特徴量重要度(代表的な方法)
各決定木では、分岐のたびに
- データのバラつき(不純度)が減る
ように特徴量が使われます。
このとき、
- よく使われて
- 大きく不純度を減らした特徴量
ほど「重要」とされます。
つまり、
不純度ベース重要度では、各木の分岐でどれだけ不純度を減らしたかを集約して重要度を求める
という仕組みです。
どんな場面で使う?
使う場面
- 精度の高い分類・予測をしたいとき
- 過学習(過度な当てはめ)を抑えたいとき
- どの特徴量が効いているか知りたいとき
不純度ベース重要度には、値の種類が多い特徴量などを高く評価しやすい偏りがあります。別の見方として、特徴量をシャッフルしてモデル性能の低下を見る Permutation Importance もあります。
注意する場面
- 「1本の木を見て解釈したい」場合
→ ランダムフォレストは不向き(全体で判断するモデル)
よくある誤解・混同
❌ 1本の決定木を見ればモデルが理解できる
→ ⭕ ランダムフォレストは「全体」で判断するモデル
❌ 情報利得が小さい特徴量ほど重要
→ ⭕ 情報利得(不純度減少)が大きいほど重要
DS検定ではここを逆にした選択肢がよく出ます。
❌ 多数決で勝った木で使われた特徴量が重要
→ ⭕ 不純度ベース重要度なら、各分岐の不純度減少を集約して判断する
❌ 1つの木の構造を解釈すればよい
→ ⭕ 全ての木をまとめて評価する
まとめ(試験直前用)
- ランダムフォレスト=「決定木の多数決モデル」
- 1本ではなく「全体」で判断する
- 特徴量重要度には複数の方法があり、不純度ベース重要度はその代表例
- 「情報利得が小さいほど重要」は誤り
- DS検定では「1本だけ見る系の選択肢」は基本NG
公式情報・参考リンク
- Breiman|Random Forests
- Random Forestの原論文です。複数の木とランダムな特徴選択を組み合わせる考え方、変数重要度などを扱っています。
- scikit-learn|RandomForestClassifier
- 現在の代表的な実装で、木の本数、特徴量サンプリング、
feature_importances_などを確認できます。
- 現在の代表的な実装で、木の本数、特徴量サンプリング、
対応スキル項目(ver.6 データサイエンス)
- 分類:解析技術
- スキルカテゴリ:モデル化
- サブカテゴリ:機械学習
- 必須スキル:—
- ★ 決定木をベースとしたアンサンブル学習(Random Forest、勾配ブースティング[Gradient Boosting Decision Tree:GBDT]、 その派生形であるXGBoost、LightGBMなど)による分析を、ライブラリを使って実行でき、変数の寄与度を正しく解釈できる
- ver.6 ★1スキルチェックで確認する
🔗 関連記事
- 中間層で使用される活性化関数とは?(ReLU・シグモイド・ソフトマックスの違い)【DS検定】
- アノテーションとは?AI学習データの品質を決める作業【DS検定】
- Aprioriアルゴリズムとは?(アソシエーション分析の基本手法)【DS検定】
- アソシエーション分析とは?購買データの関係性を見つける分析【DS検定】
- 共起頻度・支持度・信頼度・リフト値の違いとは?【DS検定】