0
点赞
收藏
分享

微信扫一扫

集成学习 之【Adaboost】

舍予兄 2022-02-24 阅读 81

文章目录

1.集成学习

集成学习通过构建并结合多个学习器来完成学习任务
在这里插入图片描述
优点:集成学习通过将多个学习器进行结合,常可获得比单一学习器显著优越的泛化性能

在这里插入图片描述

(1) Boosting

在这里插入图片描述

(2) bagging

在这里插入图片描述

2.Adaboost

1.解决的是二分类问题

2.1、思路

在这里插入图片描述

在这里插入图片描述

2.2、算法流程

(1)二分类训练数据集

在这里插入图片描述

(2)定义基分类器(弱分类器)

在这里插入图片描述
在这里插入图片描述

(3)循环M次

在这里插入图片描述

1.初始化/更新当前 训练数据的权直接分布

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

2.训练当前基分类器Gm(x)

在这里插入图片描述

3.计算当前基分类器的权值αm

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

4.将αmGm(x)更新到加法模型f(x)中

在这里插入图片描述

5.判断是否满足循环退出条件

在这里插入图片描述

2.3例题

(1) 二分类训练数据集

在这里插入图片描述

(2) 定义基分类器(弱分类器)

在这里插入图片描述

(3)循环M次

1.m=1

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

2.m=2时

在这里插入图片描述

2.4 加法模型

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

2.5 算法原理

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

举报

相关推荐

0 条评论