目录

​​1 什么是机器学习？​​

​​2 机器学习的三要素​​

​​2.1 模型​​

​​2.2 学习准则​​

​​2.3 优化​​

​​3 正则化 ​​

1 什么是机器学习？

机器学习：通过算法使得机器能从大量数据中学习规律从而对新的样本做决策。

规律：决策（预测）函数

常见的机器学习类型:

2 机器学习的三要素

2.1 模型

(1)线性方法：

(2)广义线性方法：

如果ϕ(x)为可学习的非线性基函数，f(x,θ)就等价于神经网络。

2.2 学习准则

期望风险：

2.3 优化

梯度下降:

搜索步长α中也叫作学习率（Learning Rate）

学习率是十分重要的超参数！

3 正则化