循环核:参数时间共享,循环层提取时间信息
当记忆体个数被指定,输入Xt,输出Yt的维度被指定
Wxh,Whh,Why的维度也被指定了
记忆体存储有每个时刻的状态信息:ht
前向传播:记忆体内存储的状态信息ht,在每个时刻都被刷新,三个参数Wxh,Whh,Why自始至终都是不变的
反向传播:三个参数矩阵Wxh,Whh,Why被梯度下降法更新
微信扫一扫
当记忆体个数被指定,输入Xt,输出Yt的维度被指定
Wxh,Whh,Why的维度也被指定了
记忆体存储有每个时刻的状态信息:ht
前向传播:记忆体内存储的状态信息ht,在每个时刻都被刷新,三个参数Wxh,Whh,Why自始至终都是不变的
反向传播:三个参数矩阵Wxh,Whh,Why被梯度下降法更新
相关推荐