最終更新日:2026年8月21日
gk neural_network backprop
G検定トップ
> 誤差逆伝播法(Backpropagation)とは?連鎖律との関係【G検定】
まず結論
誤差逆伝播法(Backpropagation)は、損失から出力側→入力側へさかのぼり、各パラメータの勾配を効率よく計算する方法です。
G検定では、次の3つを分けます。
連鎖律 → 微分をつなぐルール
Backprop → 勾配を計算する
Optimizer → 勾配を使って重みを更新する
直感的な説明
ニューラルネットワークの出力が間違っていたとき、
「どの重みが、損失にどれくらい影響したか」
を出力側から順番に調べるイメージです。
順伝播では入力から出力を計算し、逆伝播では損失から各重みへの影響を逆向きに求めます。
定義・仕組み
学習の基本的な流れは次のとおりです。
- 順伝播:入力から予測値を計算する
- 損失計算:予測と正解のずれを求める
- 誤差逆伝播:各パラメータについて損失の勾配を求める
- パラメータ更新:SGDやAdamなどが勾配を使って重みを更新する
Backpropで重要なのが連鎖律です。多層ネットワークは関数が何段も合成されているため、連鎖律を繰り返して各層の勾配を求めます。
いつ使う?(得意・不得意)
誤差逆伝播法は、多層ニューラルネットワークを勾配ベースで学習するときの基本です。
ただし、層や時刻をさかのぼる過程で、
- 勾配が小さくなりすぎる → 勾配消失
- 勾配が大きくなりすぎる → 勾配爆発
といった問題が起こることがあります。
G検定ひっかけポイント
Backpropが直接重みを更新する
厳密には役割を分けて考える方が安全です。
- Backprop → 勾配を計算
- SGD・Adamなど → 勾配を利用して更新
誤差を前から後ろへ伝える
誤りです。勾配計算は出力側から入力側へさかのぼります。
選択肢の判断基準
- 「合成関数の微分」→ 連鎖律
- 「出力側から勾配を効率よく計算」→ Backprop
- 「損失が小さくなる方向へ重みを動かす」→ 勾配降下法・Optimizer
まとめ(試験直前用)
- Backprop=各パラメータの勾配を計算する方法
- 出力側から入力側へさかのぼる
- 数学的な土台は連鎖律
- 重みの更新はSGD・Adamなどの最適化手法が担当
- 計算と更新を混同しない