最終更新日:2026年9月4日
gk probability machine_learning
まず結論
- 二項分布:固定回数の試行で成功が何回起こるかを表す確率分布
- ロジスティック回帰:説明変数から二値・二項結果の成功確率をモデル化する一般化線形モデル(GLM)
G検定では、
分布そのものか、説明変数を使って確率を説明するモデルか
で切り分けます。
直感的な説明
二項分布は、
10回試したら何回成功するか?
という結果のばらつきを表します。
ロジスティック回帰は、
年齢や温度などの説明変数が変わると、成功確率がどう変わるか?
をモデル化します。
つまり、二項分布は確率のルール、ロジスティック回帰はその成功確率を説明変数から推定するモデルと考えると分かりやすいです。
定義・仕組み
二項分布
典型的には、
- 試行回数
nが固定 - 各試行は成功/失敗
- 成功確率
pが一定 - 各試行は独立
という設定で、成功回数の分布を表します。
n=1 の場合はベルヌーイ分布になります。
ロジスティック回帰
ロジスティック回帰は、二項分布(Binomial family)を使う代表的なGLMです。
Penn Stateの統計教材でも、Binary Logistic Regressionは、応答変数にBinomial distributionを使い、logit linkで成功確率と説明変数を結ぶGLMとして整理されています。
代表的には、
logit(p) = 説明変数の線形結合
と表します。
ここで、
logit(p):確率pを対数オッズへ変換- sigmoid(逆logit):線形予測子を0〜1の確率
pへ戻す
という役割です。
したがって、
ロジット関数で0〜1へ変換する
ではなく、0〜1へ写すのはsigmoid(逆logit)と整理するのが正確です。
二値データと集計データ
ロジスティック回帰は、
- 個々の結果が0/1のデータ
n人中k人成功のような集計された二項データ
のどちらにも使えます。
statsmodelsのBinomial familyでも、0/1データだけでなく、成功数と失敗数を組にしたデータを扱えることが明示されています。
いつ使う?(得意・不得意)
- 固定n回の成功数の確率分布を考える → 二項分布
- 説明変数から成功確率を推定する → ロジスティック回帰
- 0/1分類 → ロジスティック回帰の代表用途
- 発生件数そのものを説明する → ポアソン回帰を疑う
ここで大切なのは、二項分布とロジスティック回帰は競合するものではないことです。
ロジスティック回帰の中で、結果の分布として二項分布を使う関係です。
G検定ひっかけポイント
分布とモデル
❌ ロジスティック回帰=二項分布そのもの
⭕ 二項分布は確率分布、ロジスティック回帰はその分布を使って確率を説明するモデル
logit と sigmoid
❌ logitが値を0〜1へ変換する
⭕ 0〜1へ写すのはsigmoid(逆logit)
「回帰」という名前
❌ ロジスティック回帰は連続値をそのまま予測する回帰
⭕ 主にクラスの成功確率をモデル化する
Bernoulliとの関係
❌ 0/1データは二項分布と無関係
⭕ n=1の二項分布がベルヌーイ分布
まとめ(試験直前用)
- 二項分布=確率分布
- ロジスティック回帰=Binomial family+logit linkのGLM
- 0/1データは
n=1の二項分布=ベルヌーイ分布 - logit=対数オッズ
- sigmoid=線形予測子を0〜1の確率へ変換
- 分布かモデルかで切る