支持向量机（SVM）|机器学习

目录

• • 1.SVM基本原理
  • • 1.1特点
    • 1.2线性二分类问题
    • 1.3间隔与支持向量
    • 1.4核函数
    
    
  • 2.实例
  • • 取数据观察
    • 绘制散点图决定使用哪种核函数
    • 建立并训练模型
    • 绘制图形查看分类效果
    
    
  
  

1.SVM基本原理

1.1特点

∙



\bullet


∙ 支持向量机（Support Vector Machine）主要用于解决模式识别领域中的数据分类问题，属于有监督学习算法的一种。

∙



\bullet


∙ 既可以做分类也可以做回归。

∙



\bullet


∙ 适合于小样本集的场景。

1.2线性二分类问题

比如说对于线性二分类问题来说，我们就是要选择一条直线将两类点进行区分，但是观看下图我们会发现有无数条直线可以做到这一要求，那么我们的选择有什么要求呢？

因为这些点都是训练集中的点，而我们最后是要将这一模型使用在测试集上，所以我们就要尽可能选择距离离两类点都较远的直线。选来选去得到的就是位于最中心的那条红线，此时容忍性好，鲁棒性高，泛化能力最强。

1.3间隔与支持向量

在样本空间中，决策边界（超平面）可以通过如下线性方程来描述：