? 本文主要講解逆馬賽克變換的原理,文中照片由映美精DFK 31BF03-Z2.H采集所得。
?
? 逆馬賽克算法是一種數(shù)字圖像處理方法,用于重建圖像的所有色彩信息,其算法對象為裝有彩色濾鏡陣列(CFA)的圖像傳感器,這種彩色濾鏡陣列中所有濾鏡的通過波長是不完全一致的。逆馬賽克變換也稱作CFA插值或色彩重建。
?? 同當前大部分的數(shù)碼相機一樣,映美精DFK 31BF03-Z2.H彩色相機使用一片帶有CFA的圖像傳感器采集圖像,逆馬賽克變換是把采集數(shù)據(jù)轉化成為可視圖像格式的重建過程。
逆馬賽克變換的目標:
?? CFA輸出經過空間采樣的色彩通道數(shù)據(jù),逆馬賽克變換算法的目標是使用這些數(shù)據(jù)中重建所有的圖像的所有色彩(例如所有位置的三色值)。這種算法一般包括以下特征:
??避免錯誤色彩信息的進入,比如色彩混淆、鋸齒邊(一組相鄰像元亮度不自然地亮暗變化)以及紫邊。
??保持圖像最大分辨力不變。
??計算復雜性低,可使用相機硬件資源在內部完成快速而有效的計算。
??易于圖像分析以進行準確的降噪處理。
??????? ?彩色濾鏡陣列:
?
? 彩色濾鏡陣列位于圖像傳感器前,是像馬賽克一樣的彩色濾鏡。實際應用中,最常用的CFA構型是Bayer濾鏡,如上圖所示。Bayer濾鏡在奇數(shù)行是紅綠交替的濾鏡,在偶數(shù)行是綠藍交替的濾鏡。綠色濾鏡的數(shù)量是紅色或藍色濾鏡的2倍,目的是模仿人眼對綠光敏感的特性。
?? 由于CFA的顏色采樣結果原理上會產生混疊,通常在圖像傳感器和鏡頭間會裝有光學抗混疊濾鏡,以減少由插值產生的錯誤顏色信息(色彩混淆)。
?? 由于每個傳感器的像元位于濾鏡后面,其輸出值為對應的像素值,該值描述對應的三種濾鏡之一的原始亮度信息。因此,需要相關的算法去估算每個像元的顏色值,而不是某個顏色分量的數(shù)值。
逆馬賽克變換示意圖:
?? 如果要以彩色濾鏡陣列中采集到的數(shù)據(jù)重建圖像的所有色彩,就需要插值算法來完成空值的計算。這里要求算法不再需要其它的計算條件,由此引入逆馬賽克算法。
在本例中的示意色塊圖由映美精出品的Bayer Demonstrator軟件生成。
下圖表示經由Bayer濾鏡后輸出的數(shù)據(jù),每個像元只含有一個紅色、綠色或藍色分量。
?????? ? Bayer濾鏡采樣:
?
?????? ? 紅色分量
?
??????? ?綠色分量
?
??????? ?藍色分量
?
??? 數(shù)字相機采用的典型算法是通過對以上分量求平均值來重建完整的RGB圖像。軟件Bayer Demonstrator提供兩種算法:相鄰像元復制和相鄰像元求平均,結果如下圖:
直接復制相鄰像元色彩值及其局部:
?
???????? ?相鄰像元求平均值及其局部:
?
??? 重建出的圖像在純色區(qū)域內色彩正確,但是分辨力(細節(jié)和銳度)會降低,而且會出現(xiàn)邊緣混淆(比如局部圖像中可以看出色彩混疊和粗糙的邊緣)。
逆馬賽克算法:
簡單插值:
?? 這種算法是典型的均勻網格多元插值算法,對同樣顏色分量的相鄰像元值進行直接插值計算。這種最簡單的方法稱為最近像素插值算法,這種算法簡單地把相同色域通道中鄰近的像素值復制。在對圖像質量有一定要求的場合不宜使用,但可以應用于圖像預覽中,因為這種算法占用很少的計算資源。另外一種簡單的算法為雙線性插值,使用這種算法,非紅色像元的紅色分量值通過其相鄰2個或4個的紅色像素值平均求得,藍色與綠色算法類似。各顏色層內更復雜的獨立插值算法包括雙三次插值、樣條插值和Lanczos resampling插值。
?? 盡管這些算法在純色圖像區(qū)域中能夠獲得較佳效果,但是配合純色CFA使用時在邊緣及細節(jié)處容易產生嚴重的逆馬賽克色彩混淆。另外,線性插值配合時空譜(泛色)CFA使用時可以獲得非常好的效果。
圖像內的像元相關性:
? 更復雜的逆馬賽克算法研究彩色圖像內像元時域或頻域內的相關性。時域相關性是圖像內像素值的變化趨勢,用于估算類似的色彩值。頻域相關性是在較小的圖像區(qū)域內像素值與其它顏色層的依賴關系。
這種算法包括:
??變數(shù)梯度內插法:這種算法計算興趣像元附近的梯度值,并用較低的梯度(表示圖像更平滑及更相似的部分)估算插值。這種算法曾用于dcraw軟件的第一版中,容易受顏色混淆的影響。
??像素組群法:該算法使用自然景物的假設進行估算。與變數(shù)梯度內插法相比,該算法在自然圖像中產生的彩色混淆較少。在版本為8.71后的dcraw軟件中有所使用,在軟件中被稱作“像素圖像組群法”。
??自適應均質導向內插法:這種算法選擇內插的方向,以使計量結果均勻性最大,通??梢园焉驶煜郎p至最小。在dcraw軟件近期的各版本中均有包含。
視頻中的超分辨率/逆馬賽克:
?? 從近年的發(fā)展看出超分辨率與逆馬賽克是一個問題的兩個方面,將二者歸為一類未嘗不可。要注意兩者均要對付色彩混淆問題。因此,尤其在視頻重建領域(多幀),超分辨率與逆馬賽克處理的綜合應用將提供最優(yōu)的重建方法。
專用算法情況:
?? 許多商用軟件使用專用算法,并不對大眾開放,不一定與現(xiàn)有的已公布的算法相同。而映美精DFK 31BF03-Z2.H相機提供最近色彩、雙線性、邊界銳化3種插值方法,對用戶透明,使用者可依據(jù)采集圖像特點酌情選擇,或直接在原始數(shù)據(jù)基礎上使用自己的插值算法。
權衡:
?? 有些算法處理自然景物時能得到更佳效果,而有些處理掃描文檔時效果更佳。這說明在估算像素值時還有我們所不知道的影響因子存在。此外,運算速度與圖像質量的矛盾也依然存在。
如果使用可以導出原始數(shù)據(jù)格式圖像的相機(如DFK 31BF03-Z2.H),就可以使用不同的逆馬賽克算法,有時會得到更高質量的圖像。
軟件:
??? 由映美精制作的DeBayer原理演示軟件Bayer Demonstrator能夠形象說明逆馬賽克的過程,該軟件免費為用戶提供,可從以下鏈接進行下載:
?
?http://www.theimagingsource.com/downloads/bayerdemonstrator.en_US.zip