概念

从数据中自动分析获得模型,并利用模型对未知数据进行预测

工作流程介绍

在这里插入图片描述

数据集介绍

数据类型构成

数据划分

对数据进行缺失值,异常值的处理

使用专业背景知识和技巧处理数据，使得特征能在机器学习算法上发挥更好作用的过程，数据和特征决定了机器学习的上限，会直接影响机器学习的效果。

特征提取：将任意数据转换为可用于机器学习的数字特征。

特征预处理：通过一些转换函数，将特征数据转换成更加适合算法模型的特征数据的过程。

特征降维：指在某些限定条件下，降低随机变量（特征）个数，得到一组“不相关”主变量的过程

算法分类

监督学习
- 输入数据是由特征值和目标值组成
- 输出连续值（回归）或输出有限个离散值（分类）
- 算法：分类k-临近算法、贝叶斯分类、决策树与随机森林、逻辑回归、神经网络
无监督学习
- 输入数据只有特征值，样本数据类别未知，需要根据样本间的相似性对样本进行分类（聚类），试图使类内差距最小化，类间差距最大化
- 算法：聚类k-means、降维
半监督学习
- 输入数据有特征值，一部分数据有目标值，一部分无目标值
强化学习
- 强化学习实质上是自动决策问题，并且可以做连续决策
- 是动态过程，上一步数据输出是下一步的数据输入
- 四要素：agent，action， environment， reward
- 算法：马尔科夫决策、动态规划

1. 分类模型评估

2. 回归模型评估

均方根误差（Root Mean Squared Error，RMSE）
- 仅能比较误差是相同单位的模型
- $\sqrt{\frac{\sum_{i=1}^n (p_i-a_i)^2}{n} } {，p和a表示预测值和真实值，n表示样本数量}$
相对平方误差（Relative Squared Error，RSE）
- 可以比较误差是不同单位的模型
- $\frac{\sum_{i=1}^n (p_i-a_i)^2}{\sum_{i=1}^n (\bar{a}-a_i)^2} {，\bar{a}表示真实值的平均值}$
平均绝对误差（Mean Absolute Error， MAE）
- MAE与原始数据单位相同，仅能比较误差是相同单位的模型，量级近似于RMSE，但是误差值相对小一些
- $\frac{\sum_{i=1}^n |p_i-a_i|}{n}$
相对绝对误差（Relative Absolute Error，RAE）
- 可以比较误差是不同单位的模型
- $\frac{\sum_{i=1}^n |p_i-a_i|}{\sum_{i=1}^n |\bar{a}-a_i|}$
决定系数（coefficient of determination）
- 决定系数（R²）回归模型汇总了回归模型的解释度
- $R^2 = 1 - \frac{\sum_{i=1}^n (p_i-a_i)^2}{\sum_{i=1}^n (a_i - \bar{a})^2} {，R^2越接近1表示回归模型越完美}$
3. 拟合
- 欠拟合，特征太少
- 过拟合，特征过多