LSTM

视频讲得非常好

https://www.bilibili.com/video/BV1644y1W7sD/?spm_id_from=333.788&vd_source=3b42b36e44d271f58e90f86679d77db7

门的概念

过去，不过去，过去一部分
点乘，0

concatenation，pointwise

LSTM

RNN

上一时刻的输出+这一时刻的输入

细胞状态长期记忆，隐藏状态短期记忆

Ct—候选值

tensor of shape
（N，L，H）
N—batch_size
L—sequence_len
H—输入的维度

实现

RMSE
均方根误差