在今天的RISC-V峰會(huì)上，Esperanto Technologies的首席執(zhí)行官Art Swift宣布了一款基于RISC-V的新型芯片，旨在進(jìn)行機(jī)器學(xué)習(xí)，包含基于開(kāi)源RISC-V架構(gòu)的近1100個(gè)低功耗內(nèi)核。
總部位于加州山景城（Mountain View）的Eseranto Technologies是在2014年創(chuàng)建的，該公司的其他網(wǎng)站遍布美國(guó)和歐洲，“其目標(biāo)是讓RISC-V成為計(jì)算機(jī)密集型應(yīng)用程序（如人工智能和機(jī)器學(xué)習(xí)）的首選架構(gòu)?！盨wift追溯到2017年新芯片的歷史，當(dāng)時(shí)Esperanto的創(chuàng)始人兼董事長(zhǎng)Dave Ditzel在第七屆RISC-V研討會(huì)上提出了Esperanto的愿景。
在那個(gè)研討會(huì)上，Ditzel設(shè)定了一個(gè)目標(biāo)：“在單個(gè)設(shè)備上放置4,000個(gè)或更多的內(nèi)核”。Ditzel要求通過(guò)RISC-V提供簡(jiǎn)單的指令集，并要求在定制微體系結(jié)構(gòu)和專(zhuān)有的低功耗設(shè)計(jì)技術(shù)領(lǐng)域進(jìn)行創(chuàng)新。“在隨后的三年中，我們已經(jīng)籌集了7700萬(wàn)美元的風(fēng)險(xiǎn)投資，現(xiàn)在已經(jīng)完成了我們的第一個(gè)設(shè)計(jì)，這是基于RISC-V的一系列AI處理器中的第一個(gè)，” Swift說(shuō)。
名為et - soc1的新芯片包含兩種通用64位RISC-V內(nèi)核：首先是ET-Maxion，一個(gè)超標(biāo)量無(wú)序內(nèi)核（每個(gè)芯片4個(gè)）；其次是ET-Minion，一種“更精簡(jiǎn)、節(jié)能”的有序多線程內(nèi)核，它包含一個(gè)用于機(jī)器學(xué)習(xí)應(yīng)用的大型協(xié)處理器（每個(gè)芯片1089個(gè)，包括一個(gè)服務(wù)處理器）。
Esperanto公司ET-SoC-1 die圖。圖片由Art Swift提供。
芯片擁有238億個(gè)晶體管，采用了TSMC公司的7nm技術(shù)，直接針對(duì)超大規(guī)模的數(shù)據(jù)應(yīng)用（“特別是推斷，”Swift說(shuō)）。Swift說(shuō)，該芯片使用了通用架構(gòu)，以保護(hù)客戶免受ML模型隨著時(shí)間的推移可能帶來(lái)的不兼容。
正如Swift所解釋的那樣，在數(shù)據(jù)中心應(yīng)用程序中，ET-Maxion內(nèi)核可能會(huì)被隨附的Intel或AMD主機(jī)CPU所取代-但是在邊緣應(yīng)用程序中，Maxions對(duì)于保持低成本至關(guān)重要。
這些芯片支持pcie4.0和DDR4x RAM（最高32GB），Swift表示，一張PCIe卡上最多可以容納6個(gè)芯片。舉個(gè)例子，Swift展示了一個(gè)開(kāi)源的Glacier Point 卡，它可以容納6個(gè)ET-SoC-1芯片。（“這是我們的全部策略，盡可能地利用開(kāi)源社區(qū)?！保?/p>
Glacier Point v2卡，最多可容納六個(gè)ET-SoC-1芯片。圖片由Art Swift提供。
在軟件方面，“我們支持所有常見(jiàn)的機(jī)器學(xué)習(xí)框架，”Swift說(shuō)，并解釋Esperanto利用Facebook的開(kāi)源GLOW編譯器作為中心。
雖然他們還沒(méi)有使用物理硅，但Swift基于芯片仿真共享數(shù)據(jù)?！爱?dāng)我們將我們的性能與現(xiàn)有解決方案在數(shù)據(jù)中心的實(shí)際測(cè)量性能進(jìn)行比較時(shí)，”他說(shuō)，“我們發(fā)現(xiàn)，我們預(yù)計(jì)在關(guān)鍵工作負(fù)載（如推薦網(wǎng)絡(luò)）上的性能將提高50倍，在圖像分類(lèi)方面，我們的性能將比現(xiàn)有解決方案高出30倍。”
“但可能更令人興奮和更重要的是，”他繼續(xù)說(shuō)，“我們能夠獲得的能源效率。就每瓦特功率的推斷而言，我們希望看到比現(xiàn)有的解決方案高出100倍的能源效率?！?/p>
Esperanto將ET-SoC-1的性能效率歸因于幾個(gè)因素，包括RISC-V的簡(jiǎn)單性、ET Minion核心上的機(jī)器學(xué)習(xí)協(xié)處理器、“唯一優(yōu)化”的內(nèi)存層次結(jié)構(gòu)和定制的低壓電路。
Swift反復(fù)強(qiáng)調(diào)，ET-SoC-1只是Esperanto新產(chǎn)品系列的第一位成員，并解釋說(shuō)，該芯片的基于圖塊的設(shè)計(jì)使其易于“擴(kuò)展至數(shù)千個(gè)內(nèi)核或縮減至數(shù)百個(gè)內(nèi)核”，以滿足需求?！皬某笠?guī)模數(shù)據(jù)中心到邊緣AI以及兩者之間的一切。”
Esperanto的聲明緊隨英偉達(dá)收購(gòu)Arm之后，這讓很多人懷疑，收購(gòu)后大家對(duì)RISC-V的興趣和接受度是否會(huì)激增。Esperanto還進(jìn)入了一個(gè)越來(lái)越擁擠的推理芯片市場(chǎng)，競(jìng)爭(zhēng)對(duì)手包括Xilinx、Mythic、Groq和英特爾的Habana Labs。