1 SVM多類分類方法
SVM最初是為處理兩類分類問題而設(shè)計(jì)的，如何有效地處理多類分類問題目前仍是一個(gè)持續(xù)研究的課題。采用SVM中的“一對(duì)一”方法實(shí)現(xiàn)多類分類，下面對(duì)這種方法進(jìn)行簡(jiǎn)單介紹。
S．Knerr等在1990年首次介紹了“一對(duì)一”方法。J．Friedman在1996年和U KreBel在1999年分別首次在支持向量機(jī)中使用這種方法。它需要構(gòu)造k(k-1)／2個(gè)分類器，每個(gè)分類器由特定的某兩類訓(xùn)練樣本訓(xùn)練得到，判定測(cè)試樣本的類別時(shí)，結(jié)合所有兩類分類器對(duì)測(cè)試樣本類別的判定意見，采用“投票法”的策略，并認(rèn)為得票數(shù)最多(Max Wins)的類別就是測(cè)試樣本所屬的類別。具體如下：考慮K類的分類問題，設(shè)訓(xùn)練集

首先對(duì)所有的(i，j)∈{(i，j)|i≤j，i，j=1，…，K}進(jìn)行運(yùn)算：從訓(xùn)練集中抽取所有y=i和y=j的樣本點(diǎn)?；谶@些樣本點(diǎn)組成一個(gè)訓(xùn)練集Ti-j，每個(gè)兩類分類SVM解決問題

約束條件為：

通過求解式(3)的最優(yōu)化問題得到k(k-1)／2個(gè)決策函數(shù)，如果函數(shù)判斷x屬于i類，則i類的得票數(shù)增加1；否則j類的得票數(shù)增加1。最終判定得票數(shù)最多的類別就是測(cè)試樣本x所屬的類別。