最終更新日:2026年8月21日
gk neural_network
G検定トップ
> 連鎖律(Chain Rule)とは?誤差逆伝播との関係【G検定対策】
まず結論
連鎖律(Chain Rule)は、合成された関数を微分するときに、各段階の微分をつないで勾配を求めるルールです。
G検定では、次の関係を切り分けます。
- 連鎖律 → 勾配を計算する数学的ルール
- 誤差逆伝播法 → 連鎖律を使って勾配を後ろから前へ効率よく求める
- 勾配降下法 → 求めた勾配を使ってパラメータを更新する
直感的な説明
ニューラルネットワークでは、入力から出力まで多くの処理がつながっています。
入力 → 重み付き和 → 活性化関数 → 次の層 → 損失
ある重みを少し変えたとき、最後の損失がどれだけ変わるかを知るには、途中にある変化を順番につなぐ必要があります。
この「途中の影響をつないで考える」のが連鎖律です。
定義・仕組み
例えば、y = f(g(x)) のように関数の中に別の関数があるとします。
このとき、x が変化した影響は、
xがg(x)をどれだけ変えるかg(x)がf(g(x))をどれだけ変えるか
をつないで求めます。
G検定では数式の暗記より、「合成関数の微分 → 連鎖律」と判断できれば十分です。
誤差逆伝播法との関係
多層ニューラルネットワークでは、損失から入力側へ向かって連鎖律を繰り返し使います。
これにより、各重みについて
この重みを少し変えると損失がどれだけ変わるか
という勾配を効率よく計算できます。
いつ使う?(得意・不得意)
連鎖律が重要になる代表例は次のとおりです。
- 多層ニューラルネットワーク
- 誤差逆伝播法
- 活性化関数を含む合成関数の微分
一方、次の説明は連鎖律とは別の話です。
- 確率分布間の違いを測る → KLダイバージェンスなど
- パラメータを損失が下がる方向へ更新する → 勾配降下法
- 行列の逆行列を求める → 線形代数
G検定ひっかけポイント
連鎖律と誤差逆伝播法は同じ
誤りです。
- 連鎖律:微分のルール
- 誤差逆伝播法:連鎖律を利用してNNの勾配を求める計算方法
連鎖律が重みを更新する
誤りです。
連鎖律で求めた勾配を使って、SGDやAdamなどの最適化手法がパラメータを更新します。
選択肢の判断基準
- 「合成関数の微分」→ 連鎖律
- 「出力側から勾配を計算」→ 誤差逆伝播法
- 「勾配を使って重みを更新」→ 勾配降下法・最適化手法
まとめ(試験直前用)
- 連鎖律=合成関数を微分するルール
- 誤差逆伝播法は連鎖律を使って勾配を計算する
- 連鎖律そのものが重みを更新するわけではない
- 計算=Backprop、更新=Optimizer と切り分ける