文章目录

• 1.集成学习
• • （1） Boosting
  • （2） bagging
• 2.Adaboost
• • 2.1、思路
  • 2.2、算法流程
  • • （1）二分类训练数据集
    • （2）定义基分类器（弱分类器）
    • （3）循环M次
    • • 1.初始化/更新当前 训练数据的权直接分布
      • 2.训练当前基分类器Gm(x)
      • 3.计算当前基分类器的权值αm
      • 4.将αmGm(x)更新到加法模型f（x）中
      • 5.判断是否满足循环退出条件
  • 2.3例题
  • • （1） 二分类训练数据集
    • （2） 定义基分类器（弱分类器）
    • （3）循环M次
    • • **1.m=1**
      • 2.m=2时
  • 2.4 加法模型
  • 2.5 算法原理

1.集成学习

集成学习通过构建并结合多个学习器来完成学习任务

优点：集成学习通过将多个学习器进行结合，常可获得比单一学习器显著优越的泛化性能

（1） Boosting

（2） bagging

2.Adaboost

1.解决的是二分类问题

2.1、思路

2.2、算法流程

（1）二分类训练数据集

（2）定义基分类器（弱分类器）

（3）循环M次

1.初始化/更新当前 训练数据的权直接分布

2.训练当前基分类器Gm(x)

3.计算当前基分类器的权值αm

4.将αmGm(x)更新到加法模型f（x）中

5.判断是否满足循环退出条件

2.3例题

（1） 二分类训练数据集

（2） 定义基分类器（弱分类器）

（3）循环M次

1.m=1

2.m=2时

2.4 加法模型

2.5 算法原理