3.0.激活函数 Published at 2024-08-16 Licensed under CC BY-NC-SA 4.0 notesjulyfun技术学习d2l Table of ContentsigmoidtanhReLULeakyReLU sigmoid 0 ~ 1 曲线,均值和零值为 tanh -1 ~ 1 曲线,均值和零值为 ReLU LeakyReLU 可防止 ReLU 的梯度爆炸。 Misplaced &= cases( x & "if" x >= 0, a x & "if" x <= 0)