/note/tech

Winnyの金子さんのED法について

[...]このNekoFightのAIに今回冒頭で挙げた記事のED(誤差拡散)法という学習法が使われている。

言うまでもなく、現代のDNN(Deep Neural Network)の学習で用いられるのはほとんどがBP(誤差逆伝播)法である。

ED法は、BP法のように後ろ(output)から前方(input方向)に逆伝播して学習させずに学習できてしまう。詳しいことは、冒頭で挙げた記事を読んで欲しい。

しかし、これはSNN(Spiking Neural Network)ではないのだろうか。私にはSNNとの違いがよくわからない。SNN自体は、ED法以前に考案されているので、ED法自体に新規性があるのかは私にはよくわからない。SNNに関しては次のサイトがよくまとまっているので参考にして欲しい。

ゼロから学ぶスパーキングニューラルネットワーク : https://snn.hirlab.net/

それで、ある日の日記によると、今回のED法を金子さんが論文として書いたが、rejectされたっぽくて、その愚痴が長々と書いてあった。(その愚痴は翌日ぐらいには消されてたように思う。記憶が不確かなので違うかも?)

まあ、金子さんは「人間の神経細胞はこうなってるんじゃないか」みたいな仮定のもとにED法を考案してるので、この仮定の部分に関しては(悪く言えば)ただの妄想に過ぎないし、BP法より性能が劣るのではどこに優位性があるのかよくわからん状態だし、それってSNNじゃね?新規性ある?(SNNはそれ以前に発表されている)みたいな状態では、rejectされるのも仕方ないのかなーと私は思うんだけど、そのへんが金子さんは納得いってない様子に見えた。(私の感じた印象です。識者の意見を聞きたいです。)

いずれにせよ、BP法は、チート性能だ。人間より遥かに少ないニューロンで人間より高い性能が出せる(ことがある)のは、このBP法のお陰だと言っても過言ではないと思う。人間の脳はBP法なんて使っていない。使わせてもらえていない。だから学習がこんなに非効率なのだ。社会人になるまで平均的には20数年かかけるのも、学習が非効率すぎるからだと言えよう。