嵌入式微處理器效能指針聯(lián)盟(Embedded Microprocessor Benchmark Consortium；EEMBC) 最近展開(kāi)一項(xiàng)定義機(jī)器學(xué)習(xí)基準(zhǔn)的任務(wù)，鎖定在網(wǎng)絡(luò)邊緣的設(shè)備上執(zhí)行推論作業(yè)。該項(xiàng)任務(wù)源于另一項(xiàng)基準(zhǔn)檢驗(yàn)計(jì)劃——EEMBC計(jì)劃在今年6月針對(duì)先進(jìn)駕駛輔助系統(tǒng)(ADAS)的芯片發(fā)布測(cè)試基準(zhǔn)。
這項(xiàng)工作至少是最近六個(gè)月來(lái)針對(duì)神經(jīng)網(wǎng)絡(luò)性能進(jìn)行測(cè)量的第三項(xiàng)重要行動(dòng)。它很可能是第一個(gè)瞄準(zhǔn)用于功耗受限之嵌入式系統(tǒng)的芯片測(cè)試基準(zhǔn)。
就在上個(gè)月，百度(Baidu)和Facebook宣布與幾家芯片制造商連手，發(fā)布新的測(cè)試基準(zhǔn)——MLPerf，首先專(zhuān)注于數(shù)據(jù)中心的訓(xùn)練任務(wù)。去年12月，服務(wù)器效能評(píng)測(cè)標(biāo)準(zhǔn)組織“事務(wù)處理效能委員會(huì)”(TPC)也組建了一個(gè)定義AI基準(zhǔn)的工作小組，其重點(diǎn)也在訓(xùn)練上。
EEMBC的AI工作小組主要圍繞在用于物聯(lián)網(wǎng)和其他嵌入式系統(tǒng)的智能喇叭、節(jié)點(diǎn)與網(wǎng)關(guān)芯片等。該組織至今已開(kāi)會(huì)三次了，目標(biāo)是在明年六月之前發(fā)布新的測(cè)試基準(zhǔn)。獨(dú)立的ADAS基準(zhǔn)已經(jīng)在多家用戶(hù)展開(kāi)beta測(cè)試了。
EEMBC總裁的Peter Torelli說(shuō)：“當(dāng)我們建構(gòu)ADAS基準(zhǔn)時(shí)，從要求工程師學(xué)習(xí)這個(gè)復(fù)雜領(lǐng)域中，發(fā)現(xiàn)了對(duì)于神經(jīng)網(wǎng)絡(luò)產(chǎn)生了濃厚興趣?！?/p>
到目前為止，該工作小組大約有來(lái)自Arm、ADI、英特爾(Intel)、英偉達(dá)(Nvidia)、恩智浦(NXP)、三星(Samsung)、意法半導(dǎo)體(STMicroelectronics)和德州儀器(TI)等十幾家嵌入式處理器供應(yīng)商成員。其目標(biāo)在于廣納各種神經(jīng)網(wǎng)絡(luò)類(lèi)型和用例。
Torelli說(shuō)：“我們正在征詢(xún)更多的意見(jiàn)，特別是來(lái)自整合商和OEM的組件選擇，以確保其可資利用。此外，我們還需要掌握哪些網(wǎng)絡(luò)架構(gòu)較重要、哪些架構(gòu)可以移植到邊緣?！?/p>
該基準(zhǔn)旨在測(cè)量原始推論性能以及啟動(dòng)神經(jīng)網(wǎng)絡(luò)模型的時(shí)間。該組織還希望能夠以標(biāo)準(zhǔn)方式定義一種測(cè)量任務(wù)功效的方法。
該計(jì)劃旨在使用行為模型，讓用戶(hù)采納其所選擇的任何架構(gòu)或運(yùn)行時(shí)間，以期能實(shí)現(xiàn)優(yōu)化。組織成員們也在討論測(cè)試是否將包含代表低、中、高復(fù)雜度任務(wù)的等級(jí)。
這項(xiàng)任務(wù)由英特爾計(jì)算機(jī)視覺(jué)和機(jī)器學(xué)習(xí)工程總監(jiān)Ramesh Jaladi擔(dān)任主席，負(fù)責(zé)各種系統(tǒng)的基準(zhǔn)檢驗(yàn)工作。
Arm稱(chēng)贊EEMBC過(guò)去各種在嵌入式處理器基準(zhǔn)檢驗(yàn)的出色表現(xiàn)，但也指出現(xiàn)在仍然是AI開(kāi)發(fā)工作的早期階段。該公司也與中國(guó)的AI產(chǎn)業(yè)聯(lián)盟合作推動(dòng)另一項(xiàng)基準(zhǔn)檢驗(yàn)。
“我們將積極地協(xié)助業(yè)界推動(dòng)一系列有用的AI基準(zhǔn)檢驗(yàn)，”Arm機(jī)器學(xué)習(xí)團(tuán)隊(duì)營(yíng)銷(xiāo)副總裁Dennis Laudick說(shuō)。
EEMBC另一項(xiàng)ADAS基準(zhǔn)檢驗(yàn)以O(shè)penCL為基礎(chǔ)，并從3大面向測(cè)試8種操作數(shù)素——包括2D影像檢測(cè)、輪廓檢測(cè)以及使用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行推論。此外，還有一家汽車(chē)制造商從2年前開(kāi)始就參與了這項(xiàng)計(jì)劃。