机器学习——支持向量机SVM（1）

    支持向量机SVM一般是用于离散的分类问题中找到合适的分类超平面来使用，一般用以下线性方程来描述分类的超平面，分类模型由w向量和b偏置来共同决定。

    对于能够正常分类的超平面的预测结果应该如下所示，带入相应的xi，yi后满足不等式即表示分类预测成功。

    距离超平面最近的这几个训练样本点使得上述不等式得等号成立，这几个样本所对应的向量（xi，yi）则为支持向量，异类的支持向量到超平面之和即为“间隔”，如下所示。

    这个间隔可以理解为缓冲，即能够容忍异常点的范围，超平面需要与两边都要保持一定的距离，这个缓冲越大则说明该超平面的分类效果越好。

    关于这个间隔的计算方法，当然可以用欧氏空间内的距离计算直接得到，我看有一个up的推导过程讲的很好，特此记录。

    通过决策超平面点的带入计算，向量点乘等于零，w向量与决策超平面垂直。

   由于垂直的原因，Xm-Xn在向量W上的投影即为所求距离L。

 间隔最大化即需要使得w最小，虽然间隔表达式只与w相关，但由于不等式条件中需要同时满足，b也在隐性约束着间隔，最后的目标如下所示。