SVM(5)——核函数

支持向量机通过某非线性变换 φ( x) &＃xff0c;将输入空间映射到高维特征空间。特征空间的维数可能非常高。如果支持向量机的求解只用到内积运算&＃xff0c;而在低维输入空间又存在某个函数 K(x, x′) &＃xff0c;它恰好等于在高维空间中这个内积&＃xff0c;即K( x, x′) &＃61;<φ( x) ⋅φ( x′) > 。那么支持向量机就不用计算复杂的非线性变换&＃xff0c;而由这个函数 K(x, x′) 直接得到非线性变换的内积&＃xff0c;使大大简化了计算。这样的函数 K(x, x′) 称为核函数。
现实生活中有很多非线性非常强的特征 而核方法能够捕捉它们。核技巧(kernel trick)的作用&＃xff0c;一句话概括的话&＃xff0c;就是降低计算的复杂度&＃xff0c;甚至把不可能的计算变为可能。