这篇文章是我的笔记分享，内容主要来自吴恩达老师的深度学习课程。^[AI中国官网-全球领先的线上AI教育、实践平台 (deeplearningai.net)]

在写之前先看两种RNN常见的画图方式，左边的是按照时间步分开画的，右边的是简略画法。

RNNs

one-one

就是普通的神经网络，不再赘述

什么情况需要一个输入（甚至没有输入）而获得多个输出？

比如生成任务。文本生成，AI作曲诸如此类。

以AI作曲为例子，输入你想要的风格，自动生成一段音乐。比如亚马逊的作曲 AWS DeepComposer

AWS DeepComposer 为开发人员提供一种了创新的方式来开始使用机器学习。几秒内完全转化为原创歌曲的旋律，所有过程均无需编写任何代码。

开始使用 AWS DeepComposer 键盘，创建可在几秒内完全转化为原创歌曲的旋律，由 AI 提供所有支持。AWS DeepComposer 专门用于为开发人员提供培训，其中包括可用于开始构建生成式 AI 模型的教程、示例代码和训练数据，所有过程均无需编写任何代码。

最典型的多对一的就是情感分析、情绪分类等，你输入一句话，得到对应的情感分类。

输入：总的感觉这台机器还不错，实用的有：阴阳历显示，时间与日期快速转换, 记事本等。

输出：positive

多对多分为等长的和不等长的。等长的就是命名实体识别或者实体标注那种，不等长的就是机器翻译这种。

实体标注：

输入：美国国防部长马蒂斯说，与首尔举行的名为“秃鹫”的军事演习每年春天在韩国进行，但2019年将“缩小规模”

输出：[美国]GPE国防部长[马蒂斯]PER说，与[首尔]GPE举行的名为“秃鹫”的军事演习每年春天在[韩国]GPE进行，但[2019年]TMP将“缩小规模”。

词性标注：

输入：快速的棕色狐狸跳过了懒惰的狗

输出：[快速] VA [的] DEC [棕色] NN [狐狸] NN [跳过] VV [了] AS [懒惰] VA [的] DEC [狗] NN

这里需要注意这幅图，这副图是先输入再输出，而不是说某个输入才有输出或者某个输入对应多个输出。这种先处理输入数据再统一输出的就是encoder-decoder。

机器翻译：

输入：美中两国可能很快达成一个贸易协议。

输出：The United States and China may soon reach a trade agreement.

文本摘要：

输入：较早进入中国市场的星巴克，是不少小资钟情的品牌。相比在美国的平民形象，星巴克在中国就显得“高端”得多。用料并无差别的一杯中杯美式咖啡，在美国仅约合人民币12元，国内要卖21元，相当于贵了75%。第一财经日报

输出：媒体称星巴克美式咖啡售价中国比美国贵75%。

本文最终的图。

文章主要参考Andrej Karpathy的The Unreasonable Effectiveness of Recurrent Neural Network。