0
点赞
收藏
分享

微信扫一扫

深度学习-线性回归+基础优化算法

线性模型:(可以看做是单层的神经网络)

w表示权重,b表示偏差

线性回归是对n位输入的加权外加偏差

对预估质量进行衡量--平方损失(衡量预测值和真实值的差异)

 

训练数据:收集一些数据点决定参数值(权重和偏差),通常越多越好。 

线性回归有显示解

 

梯度下降通过不断沿着反梯度方向更新参数求解

小批量随机梯度下降是深度学习默认的求解算法

两个重要的超参数是批量大小和学习率 

线性回归的从零开始实现:

 线性回归的简洁实现

通过使用深度学习框架来间接地实现线性回归模型,生成数据集

举报

相关推荐

0 条评论