171 誤差逆伝播法

ニューラルネットワークにおいて正解を求める手法。予測値と答えの差(誤差)を基に重みとバイアスを更新する。

多層パーセプトロンの入力層に xを入力した時は、重みを掛けながら第1層、第2層…と伝播していき、出力層から y が出力されます。
重み更新の際には、まず出力層の重み更新を計算し、その計算結果の一部を伝播させながら 第(L-1)層、第(L-2)層…という “逆方向” の順番に計算していくことになります。
誤差 “逆” 伝播法 というのはそういう意味です。