13. 出力誤差: 活性化関数:
バックプロパゲーション
f(y, t)
y
1 2 3 k k+1 N-1 N
df(y, t)
dy
g1
N (x1
N )
g2
N (x2
N )
g3
N (x3
N )
WN 1
WN = E
df(y, t)
dxN
df(y, t)
dWN 1
= yT
N 1
⇢
WT
N
✓
df(y, t)
dxF
⌦
dgN (xN )
dxN
◆
df(y, t)
dxFgk(xk)
14. gk(xk)出力誤差: 活性化関数:
バックプロパゲーション
f(y, t)
y
1 2 3 k k+1 N-1 N
df(y, t)
dy
g1
N (x1
N )
g2
N (x2
N )
g3
N (x3
N )
WN 1
WN = E
df(y, t)
dxN
df(y, t)
dWN 1
= yT
N 1
⇢
WT
N
✓
df(y, t)
dxF
⌦
dgN (xN )
dxN
◆
df(y, t)
dxF
一般的には誤差を逆向きに伝搬していると言われているが、
勾配を逆向きに伝搬しているとも言える!