18/07/27 17:10:42.98 W9c1VECCF.net
レイアー3も
xにΔxを足すと、f1(x＋Δx)がg1×Δxだけ増える
ここで、g1×Δx=Δy , g2×Δy=Δz
だから、g1・g2・g3・Δx = Δo(出力値oの増加分)
このg1・g2・g3がgrad(勾配)の正体だ
誤差逆伝搬では、g3、g2、g1と反対側から各レイヤーの傾きを求めて、
最後に掛け算することで、この勾配の値を算出している
えっ、g3、g2、g1はどうやって求めてるんだって？
偏微分とか(ごにょごにょごにょ……まあ、気にするな
あと最後に言っておく
分かりやすさを優先して説明をはしょったり、捻じ曲げたりしてるから
ネットの落書きなんてあんまり信用するな。がんば