解释机器学习中的偏差与方差？
偏差：指的是模型在测试集上的预测输出与真实值之间的误差，刻画了算法本身的拟合能力。
方差：指的是模型在测试集上的预测输出与所有预测输出的平均值之间的误差，刻画了数据扰动所造成的影响，描述了模型的稳定性。
噪声：指的是训练时预测数据与真实值之间的误差平均值，刻画了学习问题本身的难度。
泛化误差：偏差、方差、噪声之和。
- 左上角是理想情况：偏差和方差都特别小，预测结果均集中在靶心位置，理想情况，除非有无穷的训练集 ，否则达不到。
- 右上角表示偏差小方差大。可以看到整体数据较离散，但是偏差小，离中心点近。
偏差与方差的权衡（过拟合与复杂度的权衡）：
- 当训练不足时，模型的你和能力不够，此时偏差主导泛化误差；
- 随着训练的进行，模型的拟合能力增强，此时方差逐渐主导泛化误差；
- 当训练充足后，模型的拟合能力过强，此时即发生过拟合。
偏差、方差和模型复杂度的关系？
- 当模型复杂度越大时，偏差随之减小，方差随之增大。
- 沿着x轴存在最佳容量，小于最佳容量会呈现欠拟合，大于最佳容量会导致过拟合。
条件概率、先验概率和后验概率？
- 条件概率：一个事件发生后另一个事件发生的概率，一般的形式为P(X|Y),表示Y发生的条件下X发生的概率，有时为了区分一般意义上的条件概率，也称为似然概率。
- 先验概率：事件发生前的预判概率，可以是基于历史数据的统计，可以由背景常识得出，也可以是人的主观观点给出，一般都是单独事件发生的概率，如P（A）、P（B）。
- 后验概率：基于先验概率求得的反向条件概率，形式上与条件概率相同（若P（X|Y）为正向，则P(Y|X)为反向）。
