ReLU与Leaky ReLU对比
理解死神经元问题及Leaky ReLU的解决方案
ReLU(x) = max(0,x)
函数对比
死神经元模拟
α =
0.010
↻ 重置