支持向量機(jī) 概述

支持向量機(jī)(Support Vector Machines, SVM)：是一種機(jī)器學(xué)習(xí)算法。 支持向量(Support Vector)就是離分隔超平面最近的那些點(diǎn)。 機(jī)(Machine)就是表示一種算法，而不是表示機(jī)器。

支持向量機(jī) 場(chǎng)景

• 要給左右兩邊的點(diǎn)進(jìn)行分類(lèi)

• 明顯發(fā)現(xiàn)：選擇D會(huì)比B、C分隔的效果要好很多。

支持向量機(jī) 原理

SVM 工作原理

對(duì)于上述的蘋(píng)果和香蕉，我們想象為2種水果類(lèi)型的炸彈。（保證距離最近的炸彈，距離它們最遠(yuǎn)）

1. 尋找最大分類(lèi)間距

2. 轉(zhuǎn)而通過(guò)拉格朗日函數(shù)求優(yōu)化的問(wèn)題

3. 數(shù)據(jù)可以通過(guò)畫(huà)一條直線就可以將它們完全分開(kāi)，這組數(shù)據(jù)叫線性可分(linearly separable)數(shù)據(jù)，而這條分隔直線稱(chēng)為分隔超平面(separating hyperplane)。

4. 如果數(shù)據(jù)集上升到1024維呢？那么需要1023維來(lái)分隔數(shù)據(jù)集，也就說(shuō)需要N-1維的對(duì)象來(lái)分隔，這個(gè)對(duì)象叫做超平面(hyperlane)，也就是分類(lèi)的決策邊界。

閱讀全文：http://ml.apachecn.org/mlia/svm/