svm中两个特征向量到最优分类面距离相同，但属性不同，怎么区分

winston600 2012-02-28 10:59:41

比如一个向量（3，7）另一个（4，6），就好比说她俩距离最优分类面相同，但难道说她俩在最后按距离最优分类面远近的排列上并列吗？

...全文

103 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

支持向量机（Support Vector Machine ,SVM）的主要思想是：建立一个最优决策超平面，使得该平面两侧距离该平面最近的两类样本之间的距离最大化，从而对分类问题提供良好的泛化能力。对于一个多维的样本集，系统随机产生一个超平面并不断移动，对样本进行分类，直到训练样本中属于不同类别的样本点正好位于该超平面的两侧，满足该条件的超平面可能有很多个，SVM正式在保证分类精度的同时，寻找到这样

1，概述 1.1，概念支持向量机（SVM）是一类按监督学习方式对数据进行二元分类的广义线性分类器，其决策边界是对学习样本求解的最大边距超平面，可以将问题化为一个求解凸二次规划的问题。与逻辑回归和神经网络相比，支持向量机，在学习复杂的非线性方程时提供了一种更为清晰，更加强大的方式。具体来说就是在线性可分时，在原空间寻找两类样本的最优分类超平面。在线性不可分时，加入松弛变量并通过使用非线性映射将低维度输入空间的样本映射到高维度空间使其变为线性可分，这样就可以在该特征空间中寻找最优分类超平面。 SV

创造两类二维非线性可分点，使用SVM进行分类，同时画出支持向量和分类面，其实在二维的情况下就是个分界线，这个分类面并不是高维的，因为SVM的映射是个黑箱，画不出高维映射后的分类面。代码中调用了台湾大学林智仁教授的libsvm包，因为怕与MATLAB自带的SVM函数名重了，所以改成了libsvmtrain和libsvmpredict。 libsvm 3.22版本的包可以到这里去下载解压后...

支持向量机SVM是从线性可分情况下的最优分类面提出的。所谓最优分类，就是要求分类线不但能够将两类无错误的分开，而且两类之间的分类间隔最大，前者是保证经验风险最小（为0），而通过后面的讨论我们看到，使分类间隔最大实际上就是使得推广性中的置信范围最小。推广到高维空间，最优分类线就成为最优分类面。支持向量机是利用分类间隔的思想进行训练的，它依赖于对数据的预处理，即，在更高维的空间表达原始模

在之前为了寻找最有分类器，我们提出了如下优化问题：在这里我们可以把约束条件改写成如下：首先我们看下面的图示：很显然我们可以看出实线是最大间隔超平面，假设×号的是正例，圆圈的是负例。在虚线上的点和在实线上面的两个一共这三个点称作支持向量。现在我们结合KKT条件分析下这个图。我们从式子和式子可以看出如果那么，这个也就说明时，w处于可行域的边界上，这时才是起作用的约束

4,445

社区成员

15,335

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章