5月22日消息,荷蘭芯片廠商 Innatera 近日正式發(fā)布了第一款使用基于神經(jīng)形態(tài)架構的商用RISC-V微控制器Pulsar ,主要用于AI傳感器應用。
據(jù)介紹,Pulsar 是將模擬和數(shù)字神經(jīng)形態(tài)模塊與傳統(tǒng)卷積神經(jīng)網(wǎng)絡加速器和 RISC-V 內核相結合。與傳統(tǒng)的 AI 處理器相比,它的延遲降低了 100 倍,能耗降低了 500 倍,芯片尺寸為 2.6 x 2.8 毫米,采用臺積電的標準 28nm 工藝制造。
△Innatera 展示 RISC-V 神經(jīng)形態(tài)邊緣 AI 芯片
“Pulsar 不僅僅是一款 AI 芯片——這也是世界上第一個量產的神經(jīng)形態(tài)微控制器,代表了我們將智能帶到邊緣的方式的根本轉變,”Innatera 的聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Sumeet Kumar指出:“去年全球出貨了 380 億個傳感器,到 2030 年將增長到 600 億個,所有這些在邊緣處理,都將比我們將其發(fā)送到云端的速度更快地生成數(shù)據(jù),邊緣處理將是大勢所趨。但是,部署在微控制器上的模型受到限制,應用程序開發(fā)人員必須在功能、精度和功耗之間進行權衡?!?/p>
Sumeet Kumar表:“此次Pulsar的發(fā)布是十多年來在神經(jīng)形態(tài)計算方面的深入研究和工程設計的結晶,并結合了開創(chuàng)性的異構架構。它標志著我們的類腦技術為大眾市場部署做好準備的時刻。這實際上是傳感器唯一需要的微控制器?!?/p>
模擬神經(jīng)網(wǎng)絡 (ANN) 內核使用時間電壓脈沖來識別模式并提取信息以進行時間序列處理,而無需復雜的模型。Sumeet Kumar說:“ANN 加速器完全使用尖峰進行計算,它是一個由神經(jīng)元和突觸組成的大型結構,帶有模擬和數(shù)字設備,延遲為 1ms,功耗低于 1mW?!?/p>
“在該結構中,關鍵是帶有電容器的交叉開關網(wǎng)絡,這個過程不是線性的,而是指數(shù)級的,這在模擬域中使用單個晶體管就很簡單,”他說?!拔覀儾捎脭?shù)字尖峰神經(jīng)網(wǎng)絡的原因是為了實現(xiàn)可配置性和靈活性——這是通過門和乘法器實現(xiàn)的。計算是異步和事件驅動的,計算在數(shù)據(jù)傳入時隨時進行。在 CNN 中,你可以一次獲取所有數(shù)據(jù)并進行計算?!?/p>
“我們看到很多客戶使用現(xiàn)有的 AI 模型,他們可以直接切換,但通常傳統(tǒng)的 CNN 會像圖像一樣查看帶有緩沖功能的所有內容,所有這些都需要大量功率,而峰值網(wǎng)絡可以有效地處理流數(shù)據(jù)。例如,用于手勢識別的 1m 參數(shù) CNN 模型可以用 10,000 個參數(shù)、3kbyte、54 個神經(jīng)元的模型來實現(xiàn),而且功耗非常低。對于大多數(shù)應用程序問題,你必須選擇 AI 方法,因此添加 CNN 開發(fā)人員可以為工作添加正確的工具,”他說。
他還指出,無線耳機每次推理的音頻感應分類能量降低了 100 倍,達到 400 μW,模型縮小了 33 倍,準確率相同,達到 90%+。聲音識別每次推理的能耗降低了 88 倍,而準確性和延遲相同。雷達手勢識別的能量比 CNN 加速器低 42 倍(600 μW),延遲低 167 倍。
芯片設計的一個關鍵部分是具有與傳感器的接口,包括攝像頭和醫(yī)療傳感器。另一個關鍵要素是名為 Talamo 的軟件設計工具包 (SDK) 和用于尖峰網(wǎng)絡的庫。
“Talamo SDK 旨在通過一個擴展與 PyTorch 連接,該擴展引入了所有脈沖基礎設施,因此開發(fā)人員處于熟悉的環(huán)境中,并且模型描述與訓練數(shù)據(jù)一起以 python 編寫,我們的 SNN 編譯器將模型映射到芯片架構上,這從根本上減少了神經(jīng)形態(tài)計算的障礙,從而可以輕松地構建脈沖模型并將其部署到框架上?!?/p>
Innatera 正在推出其開發(fā)人員計劃,該計劃現(xiàn)已向早期采用者開放,并于 7 月推出神經(jīng)形態(tài)開發(fā)板。即將推出的開源 PyTorch 前端和市場將為神經(jīng)形態(tài) AI 創(chuàng)建一個更具協(xié)作性的生態(tài)系統(tǒng)。