丢弃法
1.动机
2.丢弃法
通常将丢弃法作用在隐藏全连接层的输出上
在推理(预测)中不需要使用drop out,因为droup out只在训练时候使用,drop out相当于一个正则项,会对权重产生影响,当在预测的使用权重不需要发生变化,此时不需要正则。
3.总结
随机性可以使得模型更加稳定。
微信扫一扫
通常将丢弃法作用在隐藏全连接层的输出上
在推理(预测)中不需要使用drop out,因为droup out只在训练时候使用,drop out相当于一个正则项,会对权重产生影响,当在预测的使用权重不需要发生变化,此时不需要正则。
随机性可以使得模型更加稳定。
相关推荐