目录标
近些年随着深度学习和自然语言处理的结合加深,RNN的使用也越来越多,关于RNN的基础知识,推荐阅读colah的文章入门。PyTorch中实现了如今最常用的三种RNN:RNN(vanilla RNN)、LSTM和GRU。此外还有对应的三种RNNCell。
RNN和RNNCell层的区别在于前者一次能够处理整个序列,而后者一次只处理序列中一个时间点的数据,前者封装更完备更易于使用,后者更具灵活性。实际上RNN层的一种后端实现方式就是调用RNNCell来实现的。
nn.lstm()
直接上代码和讲解:
import torch
from torch import nn
# 2层的LSTM计算单元,输入的维度=10,隐藏单元和记忆单元hidden_len=20(输出也是20维)
model = nn.LSTM