LSTM门控机制与细胞状态
观察LSTM三个门如何协同控制细胞状态的信息流动
f_t=σ(W_f·[h,x]), i_t=σ(W_i·[h,x]), o_t=σ(W_o·[h,x])
C_t = f_t⊙C_{t-1} + i_t⊙C̃_t | h_t = o_t⊙tanh(C_t)
点击模式按钮查看门控机制
细胞状态C是LSTM的"信息高速公路"
LSTM结构
信息高速公路
门控动态
↻ 重置