感知机模型的对偶形式

感知机模型 python感知机实现代码

感知机模型的对偶形式也称累积形式，相对于之前的感知机多了一个 ɑi = nɧ ，n表示使用某实例作为误分类点更新参数w,b的次数，如果未被选择为误分类点去更新参数则n=0，ɧ :步长(由最开始给定，表示更新参数的快慢)；
$$w<——w+ɧ\ast yi\ast xi$$

$$b<——b+ɧ\ast yi$$

使用xi这一误分类点更新参数的值：
$$∆w=n\ast ɧ\ast yi\ast xi$$

$$∆b=n\ast ɧ\ast yi$$

则将所有参与更新参数w,b的点累积得:
$$w=w0+n1\ast ɧ\ast y1\ast x1+n2\ast ɧ\ast y2\ast x2+\cdot \cdot \cdot +ni\ast ɧ\ast yi\ast xi$$
将ni*ɧ使用ɑi表示，则：
$$w=\sum ɑi\ast yi\ast xi(i=1-->i=N;N为训练感知机模型的实例数量，也就是点的个数)$$

算法

(1) 选取初值ɑ = 0，b = 0

(2) 训练集中遍历选取数据（xi,yi）

(3) 判断是否为误分类点,若：
$$yj\ast (\sum ɑi\ast yi\ast xi•xj+b)<=0$$
​ 则为误分类点，则更新参数
$$ɑi<——ɑi+ɧ$$

$$b<——b+ɧ\ast yi$$

(4) 否则转至(2),直到训练集中无误分类点

• 最终得到参数ɑi,b进而得到w,b，即求得感知机模型

例题2.2

与2.1为同一题，但迭代过程不同

解：