摘 要: 提出了基于貢獻矩陣" title="貢獻矩陣">貢獻矩陣的特征提取方法。首先采用基于結(jié)構(gòu)分析的統(tǒng)計方法構(gòu)造貢獻矩陣,利用貢獻矩陣對圖像預(yù)處理;通過二維主成分分析" title="主成分分析">主成分分析方法提取圖像特征。將此算法用于微鈣化點圖像特征提取,利用支持向量機" title="支持向量機">支持向量機分類器進行分類。實驗結(jié)果表明,該算法加快了訓(xùn)練速度,同時有效地降低了微鈣化點檢測" title="微鈣化點檢測">微鈣化點檢測的假陽性。
關(guān)鍵詞: 支持向量機 貢獻矩陣 二維主成分分析 特征提取 微鈣化點檢測
一般認為,特征越多,描述圖像越充分,越能反映事物的內(nèi)涵。然而,獲取特征數(shù)據(jù)不僅需要大量的測量設(shè)備和時間,樣本存儲占用的空間和數(shù)據(jù)處理的計算量也急劇增長,而且,還有一些對分類來說是冗余的甚至不相關(guān)的特征會影響分類速度和分類器的泛化能力。在低維特征空間描述圖像,是特征提取需要解決的問題。
主成分分析PCA(Principal Component Analysis)是一種常用的特征提取方法。它依據(jù)特征值的大小選擇特征向量" title="特征向量">特征向量,消除了特征向量間的相關(guān)性,從一定意義上體現(xiàn)了特征向量中不同維對識別結(jié)果貢獻大小的不同。但是至今還沒有理論證明特征值大的特征向量對分類結(jié)果的貢獻大,而且這僅僅是體現(xiàn)在特征向量的代數(shù)特征上,不能夠充分利用特征向量的幾何與結(jié)構(gòu)分布的特點。為了更有效地選擇特征,人們已經(jīng)提出了多種改進方法。文獻[1]提出了一種基于粗糙集理論的主成分分析方法,文獻[2]提出了一種基于遺傳算法的主成分分析方法,文獻[3]提出了通過反饋監(jiān)督學(xué)習(xí)反復(fù)調(diào)整特征子空間的方法。為了改善分類效果,選擇更有利于分類的特征,本文提出基于貢獻矩陣的二維主成分分析方法。首先利用貢獻矩陣對圖像預(yù)處理,通過二維主成分分析方法提取圖像特征,最后利用支持向量機分類器檢測微鈣化點。
1基于貢獻矩陣的微鈣化點檢測
1.1 貢獻矩陣
通過對微鈣化點檢測問題的實驗發(fā)現(xiàn),不同的特征向量對檢測結(jié)果的影響是不同的。為了更好地利用特征向量解決不同問題,本文引入了貢獻矩陣。貢獻矩陣和原始特征矩陣維數(shù)相同,且該矩陣的每一維數(shù)據(jù)反映了原始特征向量的該維對分類結(jié)果的貢獻大小,用該矩陣對原始特征向量進行預(yù)處理。
產(chǎn)生經(jīng)驗矩陣的方法有:(1)經(jīng)驗分析法,取決于人的經(jīng)驗,無法通過計算機自動確定;(2)基于結(jié)構(gòu)分析的統(tǒng)計方法,通過對大量圖像的幾何特征的分布進行分析,對乳腺X圖像中的目標(biāo)進行定位、邊緣提取,通過統(tǒng)計確定出每一部分對分類貢獻的大小,從而確定貢獻矩陣;(3)反向優(yōu)化算法,根據(jù)前兩種方法確定一個初始的貢獻矩陣,然后按照這個初始值對樣本處理,求出分類結(jié)果,反過來根據(jù)分類結(jié)果修正貢獻矩陣,最后得到一個優(yōu)化的貢獻矩陣使分類效果達到最好。
本文采用第二種方法構(gòu)造貢獻矩陣。由于微鈣化點是一些相對周圍區(qū)域灰度值較高的亮點,故在微鈣化點檢測問題的分類中起重要作用的是相對鄰域的亮點,對應(yīng)貢獻矩陣中較大的貢獻系數(shù),對于其他的像素,應(yīng)賦予較小的貢獻系數(shù)。
1.2 二維主成分分析
經(jīng)典的主成分分析[4]是基于一維向量,這里采用直接針對二維圖像數(shù)據(jù)的二維主成分分析方法。
令X為n維單位列向量。A為m×n的隨機矩陣,通過線性變換
Y=AX (1)
得到圖像A映射的特征向量。為了得到一個最優(yōu)的映射向量,引入映射樣本的總類分散度來度量映射向量X的判別力。用映射特征向量協(xié)方差矩陣的跡來描述總類分散度。采用準(zhǔn)則
J(X)=tr(Sx) (2)
其中Sx為訓(xùn)練樣本的映射特征向量的協(xié)方差矩陣,tr(Sx)表示Sx的跡。最大化上述準(zhǔn)則的物理意義就是找到映射方向X,將所有樣本映射到該方向之后能夠使映射樣本的總類分散度最大。協(xié)方差矩陣Sx定義為:
Sx=E(Y-EY)(Y-EY)t (3)
=E[AX-E(AX)][AX-E(AX)]T
于是
tr(Sx)=XT[E(A-EA)T(A-EA)]X (4)
定義圖像A的協(xié)方差矩陣Gt
Gt=E[(A-EA)t(A-EA)] (5)
從定義很容易證明Gt是非負的,而且可以直接從圖像訓(xùn)練樣本得到。假設(shè)共有M個訓(xùn)練樣本,第j個樣本記作m×n維矩陣Aj(j=1,2,…,M),所有樣本的平均圖像記作A′,這樣
準(zhǔn)則(2)改寫為:
J(X)=XTGtX (7)
最優(yōu)映射軸Xopt是最大化Jx的單位向量,就是Gt對應(yīng)最大特征值的特征向量。一般來說,只有一個最優(yōu)軸向是不夠的,通常需要選擇映射軸向的一個子集,即最大化Jx的一組正交向量X1,X2,…,Xd
實際上,最優(yōu)映射軸X1,X2,…,Xd就是Gt對應(yīng)前d個最大特征值的特征向量。
1.3 特征提取
利用最優(yōu)映射向量提取圖像特征,對于一個給定的圖像樣本A,
Yk=AXk, k=1,2,…,d (9)
這樣得到一組映射的特征向量Y1,Y2,…,Yd,稱作圖像樣本的主成分。需要指出的是二維主成分分析的每一個主成分都是矢量,而一維主成分分析的是標(biāo)量。B=[Y1,Y2,…,Yd]為圖像的特征,用作后續(xù)分類器的輸入。
1.4 支持向量機
支持向量機以結(jié)構(gòu)化風(fēng)險最小化代替常用的經(jīng)驗風(fēng)險最小化作為優(yōu)化準(zhǔn)則,可以在理論上取得更好的泛化性能。下面以兩類模式的分類為例說明其基本原理。
設(shè)樣本集(xi,yi),i=1,2,…,n,yi∈{+1,-1},其中yi是模式xi的類別標(biāo)號,通過滿足Mercer條件的核函數(shù)K(u,v)將輸入模式映射到一個更高維特征空間H中,在此高維空間求取一個線性分類面,使兩類距離最大(稱為最優(yōu)線性分類面)。
這相當(dāng)于求解約束條件下的二次優(yōu)化問題
其中C是對線性不可分樣本的分類錯誤的懲罰因子,αi為每個約束條件對應(yīng)的Lagrangian乘子。
求解上述二次優(yōu)化問題,可以從訓(xùn)練樣本中得到一系列對應(yīng)αi≠0的向量,這些特征向量稱為支持向量,分類面由這些向量決定。
其中SV為支持向量。
核函數(shù)的選擇決定了高維特征空間H的結(jié)構(gòu),常用的函數(shù)有三種:
多項式核函數(shù)
K(x,xi)=[(x·xi)+1]q (13)
RBF(Radial Basis Function)核
Sigmoid核函數(shù)
K(x,y)=tanh(v(x·xi)+c) (15)
1.5 算法描述
本文采用分等級的微鈣化點檢測:預(yù)處理、感興趣區(qū)域提取和鈣化點檢測。預(yù)處理包括圖像增強和去噪。通過提取感興趣區(qū)域,可以去除大量不含鈣化點的區(qū)域,提高訓(xùn)練速度和分類精度。通過感興趣區(qū)域中鈣化點的檢測,可以得到微鈣化點。感興趣區(qū)域的提取以及微鈣化點的檢測問題都是分類問題,即將包含鈣化點的區(qū)域和不包含鈣化點的區(qū)域或者鈣化點與非鈣化點區(qū)分開。本文使用支持向量機進行分類。下面詳細介紹感興趣區(qū)域的選取部分,分為兩個階段:訓(xùn)練階段和測試階段。
1.5.1 訓(xùn)練階段
(1)對每一幅感興趣區(qū)域(設(shè)為p×q維)和非感興趣區(qū)域(p×q維)的圖像樣本,利用圖像統(tǒng)計特征計算貢獻矩陣D,且維數(shù)與圖像相同。圖像的統(tǒng)計特征本文采用統(tǒng)計平均值:
對圖像中的每個像素,首先計算其2m+1鄰域灰度均值,根據(jù)該像素的灰度值與該均值的差值大小給貢獻矩陣對應(yīng)的貢獻系數(shù)賦值dij,且0<DIJ<1。若差值較大,則說明該點對分類的影響較大,應(yīng)賦予較大的貢獻系數(shù);反之,則賦予較小的貢獻系數(shù)值。
(2)利用貢獻矩陣對訓(xùn)練樣本圖像預(yù)處理。這里定義一種運算
即圖像各像素與貢獻矩陣中對應(yīng)位置的貢獻系數(shù)相乘。
(3)由公式(6)、(8)、(9)利用二維主成分分析提取圖像特征,作為支持向量機的輸入向量。
(4)訓(xùn)練支持向量機,保存最優(yōu)分類面參數(shù)。
1.5.2 測試階段
(1)對測試樣本用大小p×q的窗口,x方向以步長p/2,y方向以步長q/2遍歷,對窗口選定的每一個區(qū)域利用圖像統(tǒng)計特征計算貢獻矩陣。
(2)利用貢獻矩陣對測試樣本圖像預(yù)處理。
(3)利用二維主成分分析提取圖像特征。
(4)調(diào)用訓(xùn)練好的支持向量機對測試樣本分類。本實驗使用RBF核函數(shù)(見公式(14)),σ=5,C=1000。
微鈣化點的檢測,基本步驟同上,只是提取的特征不同。提取的鈣化點的特征包括面積、對比度和從SRDM (Surround Region Dependence Matrix)提取的四個方向的加權(quán)和[5],作為支持向量機的輸入向量。
2 實驗結(jié)果
本文對100幅乳腺X圖像作為訓(xùn)練樣本,并對其他9幅測試樣本進行測試,實驗結(jié)果如表1所示,給出了每個測試樣本中微鈣化點MC(Microcalcification)的真實個數(shù)、檢出個數(shù)以及假陽性FP(False Positive)。與主成分分析提取特征相比,本文提出的特征提取方法,運算速度提高3倍以上。而且隨著樣本數(shù)量增多,本文提出的基于貢獻矩陣的二維主成分分析比經(jīng)典主成分分析具有更顯著優(yōu)勢。
本文提出了基于貢獻矩陣的二維主成分分析特征提取方法。首先,與經(jīng)典的對向量運算的主成分分析方法不同,二維主成分分析方法是直接針對二維圖像數(shù)據(jù)的,因而大大減少了計算量,加快了運算速度。而且,貢獻矩陣是根據(jù)特征向量對分類結(jié)果的影響大小來確定的,用來對圖像預(yù)處理,可以彌補經(jīng)典主成分分析僅僅基于特征值大小選擇特征的不足,選擇更加有利于分類的特征。乳腺X線圖像中微鈣化點檢測的實驗結(jié)果驗證了算法的可行性,在保證檢測精度的前提下,大大提高了運算速度。
參考文獻
1 Roman W. Swiniarski, Andrzej Skowron. Rough set methods in feature selection and recognition. Pattern Recognition Letters[J], 2003;24: 833~849
2 Sun Zehang,Bebis,George, Miller, Ronald. Object detection using feature subset selection. Pattern Recognition [J], 2004;37(11):2165~2176
3 蔣偉峰,劉濟林. 基于pca學(xué)習(xí)子空間算法的有限漢字識別.中國圖象圖形學(xué)報[J],2001;2: 186~190
4 高秀梅,楊靜宇,袁小華,楊健. 廣義主分量分析及人臉識別.計算機工程與應(yīng)用[J],2003;(11):31~32,48
5 H.D. Cheng, Xiaopeng Cai, Xiaowei Chen, Liming Hu, Xueling Lou. Computer-aided detection and classification of microcalcifications in mammograms:a survey.Pattern Recognition 36 (2003):2967~2991