0
点赞
收藏
分享

微信扫一扫

5分钟了解机器学习【线性回归】

文章目录


尽量用大白话把算法核心思想用一句话概括,方便记忆理解

1.线性回归

是一种方法,是为了找到特征值(X1……Xn)和目标值(y)的映射函数关系

该函数也称线性模型,一般表示为y=w1X1+w2X2+……+wnXn+b(w权重,b偏置)


损失函数:通过真实y1…yn和预测h1…hn作出最小二乘法构建

优化损失:正规方程(直接求出w,但求解速度取决于特征值数量)和梯度下降(逐渐试出w)


过拟合:模型在训练集表现的太好,但在测试集表现太差
解决方法:正则化,使得其中一部分w趋近0,消除存在嘈杂特征

欠拟合:模型在训练集表现的太差,但在测试集表现太差
解决方法:增加特征


岭回归:线性回归+正则化

2.逻辑回归

原理
2.1 线性回归模型作为输入
2.2 带入到激活函数即可映射到[0,1],0.5是阈值,达到分类作用

应用场景:二分类问题

举报

相关推荐

0 条评论