バックプロパゲーション (Backpropagation)

▼ ざっくり言うと

損失をネット全体に逆向きに伝えて、各パラメータを調整する手法です。

▼ もうちょっと詳しく

ニューラルネットの出力で「間違えた」と分かったとき、どのパラメータが悪かったのかを、出口から入口に向かって遡って分配していく計算です。「最後に間違えたのは、その手前のあいつのせい、その手前は…」と犯人探しを後ろ向きにやる。

日本語訳は「誤差逆伝播法」。呼び方がいかつい割に、やってることは責任のなすりつけです。

▼ ちょっとだけ深い話

この手法のおかげで、何百万パラメータでも学習できるようになりました。1986年に有名な論文が出て、ディープラーニング復活の遠因のひとつです。

名前は厳めしいですが、内容は「間違いの犯人探しを後ろ向きに」というだけです。

あなたの読了: 0 / 388