目录
1 什么是机器学习？
2 机器学习的三要素
2.1 模型
2.2 学习准则
2.3 优化
3 正则化
1 什么是机器学习？
机器学习：通过算法使得机器能从大量数据中学习规律从而对新的样本做决策。
规律：决策（预测）函数
常见的机器学习类型:
2 机器学习的三要素
2.1 模型
(1)线性方法：
(2)广义线性方法：
如果ϕ(x)为可学习的非线性基函数，f(x,θ)就等价于神经网络。
2.2 学习准则
期望风险：
2.3 优化
梯度下降:
搜索步长α中也叫作学习率（Learning Rate）
学习率是十分重要的超参数！
3 正则化
