文章目录
尽量用大白话把算法核心思想用一句话概括,方便记忆理解
1.线性回归
是一种方法,是为了找到特征值(X1……Xn)和目标值(y)的映射函数关系
该函数也称线性模型,一般表示为y=w1X1+w2X2+……+wnXn+b(w权重,b偏置)
损失函数:通过真实y1…yn和预测h1…hn作出最小二乘法构建
优化损失:正规方程(直接求出w,但求解速度取决于特征值数量)和梯度下降(逐渐试出w)
过拟合:模型在训练集表现的太好,但在测试集表现太差
解决方法:正则化,使得其中一部分w趋近0,消除存在嘈杂特征
欠拟合:模型在训练集表现的太差,但在测试集表现太差
解决方法:增加特征
岭回归:线性回归+正则化
2.逻辑回归
原理
2.1 线性回归模型作为输入
2.2 带入到激活函数即可映射到[0,1],0.5是阈值,达到分类作用
应用场景:二分类问题