最終更新日：2026年6月28日
gk optimization
G検定トップ
＞ ミニバッチ学習（Mini-batch Gradient Descent）とは？G検定対策
まず結論
- ミニバッチ学習（Mini-batch Gradient Descent）とは、訓練データの一部（ミニバッチ）を使って勾配を計算し、パラメータを更新する最適化手法。
- G検定ではSGD（1サンプル）とバッチ勾配降下法（全データ）との違いを正しく区別できるかが問われる。
直感的な説明
-
山を下るとき、
- 全体地形を毎回調べる → バッチ勾配降下法
- 1歩ごとに足元だけ見る → SGD
- 数歩分まとめて地形を見る → ミニバッチ学習
-
👉 速さと安定性のバランス型がミニバッチ学習です。
定義・仕組み
-
ミニバッチ学習では、
- 全データを使わず
- 小さなデータ集合（例：32、64、128件）
- をランダムに抽出して勾配を計算します。
-
特徴：
- SGDより安定
- バッチ勾配降下法より計算効率が良い
- GPU計算と相性が良い
1つのミニバッチについて順伝播、損失計算、逆伝播、パラメータ更新を行います。すべてのミニバッチを一巡すると1エポックです。バッチサイズは1回の更新に使う件数、エポックは全データを一巡した回数なので、両者は別の概念です。
いつ使う？（得意・不得意）
使われる場面（得意）
- 深層学習の学習全般
- 大規模データセット
- GPUを用いた学習
注意点・不得意
- バッチサイズの選択が重要
- 大きすぎるとバッチ学習に近づく
- 小さすぎるとSGDに近づく
G検定ひっかけポイント
| 方法 | 1回の更新に使うデータ | 特徴 |
|---|---|---|
| SGD | 原則1件 | 更新は速いが勾配のばらつきが大きい |
| ミニバッチ | 一部のまとまり | 速度と安定性のバランス |
| バッチ勾配降下法 | 全データ | 安定しやすいが1回の更新が重い |
実務で単に「SGD」と呼ぶ場合でも、実装上はミニバッチを使うことがあります。試験では設問が示す「1回の更新に使う件数」で判断します。
-
よくある誤解：
- ❌ 「全データを使用する」
- ❌ 「1サンプルのみを使う」
-
判断基準：
- 少量データのまとまり → ミニバッチ
- 1サンプル → SGD
- 全データ → バッチ勾配降下法
まとめ（試験直前用）
- ミニバッチ学習＝少量データで更新
- 速さと安定性のバランス型
- SGDとバッチの中間
- 深層学習で標準的
- 「バッチサイズ」がキーワード