Twin SVM的数学求解方法

第一篇博客已经对Twin SVM做了简单的介绍,这里主要从数学的角度去分析Twin SVM的求解思路。

一、基本思想

首先构造两个超平面,一个正超平面和一个负超平面,使得正负超平面尽可能地分别接近所有正类点的输入和负类点的输入,然后以这两个超平面为基础,构造决策函数;输入x距离正超平面较负超平面近时,即推断为正类;否则推断为负类。

二、数学描述

Twin SVM 要求正超平面尽可能地靠近正类点,并尽可能地远离负类点;而负超平面尽可能地靠近负类点,并尽可能地远离正类点。由此,两个超平面的原始问题为:



其中,di为惩罚参数,
目标函数第一项的作用是使正平面尽可能接近正输入;第二项和两个约束条件是使正超平面离开负输入一个距离,尽可能把负输入排斥在限定负超平面的另一侧。
它们的对偶问题分别为


即得到Twin SVM的决策函数为

1