从训练数据视角：机器学习和深度学习 “模型”的大三范式

训练数据一般分为两个部分，一部分是数据本身，一部分是标注(Label)。训练是通过数据对应的标注，让模型理解数据。

1.监督学习

即训练直接输入数据和对应的标注，让模型能识别数据的标注。

1.1 半监督学习

利用无标记数据来训练一个辅助分类器或者利用无标记数据来学习数据分布，从而改进有标记数据的分类效果。这些技术包括自编码器、半监督SVM、深度置信网络等。

2.无监督学习

即训练数据没有标注

Tips：通常将生成模型归为无监督学习

2.1 自监督学习

利用无标记的数据来自动生成标签或者特征，然后利用这些生成的标签或者特征来训练模型。

即通过大量的无标记数据，学习数据的内在结构和特征，从而产生高质量的表示，这些表示可以被用于各种任务，例如分类、目标检测、图像分割等。

3.强化学习

定义了一个环境和一个代理。代理可以观察环境，并根据观察结果采取行动。

每次代理采取行动后，环境会反馈一个奖励信号，告诉代理这个行动是好的还是坏的。代理的目标是通过不断尝试和学习来最大化累积奖励信号。代理的学习过程通常是基于试错（trial-and-error）的，通过尝试多种行动并观察结果来更新策略。