▼ もうちょっと詳しく

定義は驚くほどシンプル。入力が0未満なら0、0以上ならそのまま。それだけ。にもかかわらず、ディープラーニングを劇的に進歩させた立役者。

2010年代前半、Sigmoid・Tanh が主役だった時代に、ReLUを使うだけで学習が速くて安定することが分かり、業界がひっくり返りました。「こんな単純なやつが、なぜ?」というのが最初の率直な感想だった、と多くの研究者が振り返ります。