一、概念
支持向量机(Support Vector Machine,SVM)是Corinna Cortes和Vapnik等于1995年首先提出的,它在解决小样本、非线性及高维模式识别中表现出许多特有的优势,并能够推广应用到函数拟合等其他机器学习问题中。
在机器学习中,支持向量机(SVN,还支持矢量网络)是与相关的学习算法有关的监督学习模型,可以分析数据,识别模式,用于分类和回归分析。
1. 线性分类
线性分类器(也可以叫做感知机,这里的机表示的是一种算法)
2. 分类标准
这里考虑的是一个两类的分类问题,数据点用x来表示,这是一个n维向量,w^T中的T代表转置,而类另用y来表示,可以取1或者 -1,分别代表两个不同的类。一个线性分类器的学习目标就是要在n维的数据空间中找到一个分类超平面,其方向可以表示为:
wTx+b=0
二、问题起源
要做一个分类任务,有两类点,圈与叉,要找一条分隔线把两类分开来。
如何选择一条线呢?
假设有一些雷,要找出一条线,离这些雷越远越好。
这时我们看C离雷最远。
找阴影平面最大的线。
现在对要求稍放宽一点,有些异常点(软间隔:soft margin)
第2课
低维 可分,转高维可分的。
示例:使用sklearn库做支持向量机