最終更新日：2026年9月23日
gk machine_learning supervised_learning
G検定トップ
＞ 線形回帰とは？最小二乗法と重回帰を整理【G検定対策】
まず結論
線形回帰（Linear Regression）は、説明変数の線形結合を使って、売上・価格・温度などの連続値を予測する教師あり学習です。
G検定では、
- 連続値を予測
- 線形結合
- 最小二乗法
- 単回帰 / 重回帰
を押さえます。
直感的な説明
データに対して、
できるだけ全体に合う直線・平面を引く
イメージです。
説明変数が1つなら直線、複数なら高次元の平面として考えます。
定義・仕組み
代表的な線形回帰は、
予測値 = 切片 + 係数1×特徴量1 + 係数2×特徴量2 + …
の形で表します。
通常の最小二乗法（OLS）では、実測値と予測値の差である残差の二乗和が小さくなるように係数を決めます。
単回帰と重回帰
- 単回帰：説明変数が1つ
- 重回帰：説明変数が複数
「重回帰＝目的変数が複数」という意味ではありません。
「線形」の意味
線形回帰の「線形」は、基本的に係数に対して線形であることを指します。
説明変数を二乗した特徴量などを入れても、係数に対して線形なら線形回帰として扱える場合があります。
いつ使う？（得意・不得意）
向いている場面：
- 連続値を予測したい
- 特徴量と目的変数の関係を比較的説明しやすくしたい
- ベースラインモデルを作りたい
注意点：
- 強い非線形関係
- 外れ値
- 多重共線性
- 残差の性質
などによって係数の解釈や予測が不安定になる場合があります。
G検定ひっかけポイント
線形回帰＝分類？
❌ クラスを予測する代表手法
⭕ 連続値を予測する回帰手法
重回帰
❌ 目的変数が複数
⭕ 説明変数が複数
ロジスティック回帰との違い
- 線形回帰 → 連続値
- ロジスティック回帰 → クラス確率・分類
まとめ（試験直前用）
- 線形回帰＝連続値予測
- 説明変数の線形結合
- OLS＝残差二乗和を小さくする
- 単回帰＝説明変数1つ
- 重回帰＝説明変数複数
- ロジスティック回帰とは用途が異なる