30年前，加州大學(xué)伯克利分校的博士生楊林（Frank Lin）想研發(fā)出一種特制芯片，能夠加快人工智能（AI）的運算速度。

這個念頭開啟了他長達三十多年的研究生涯。

當(dāng)年一些具有洞察力的想法如今變成了現(xiàn)實，與此同時，楊博士作為首席科學(xué)家創(chuàng)立的初創(chuàng)公司GTI野心勃勃，不斷發(fā)展，專注于打造與眾不同的AI芯片，以期在競爭日益激烈的芯片市場獨占鰲頭。

2017年初建立的GTI總部位于苗必達市，處于硅谷的邊緣地帶。GTI正在一步步實現(xiàn)楊博士在30年前的絕妙想法：同步運算矩陣乘法的相同電路矩陣，從而加快神經(jīng)網(wǎng)絡(luò)的基本運算。

 “我們是唯一一家將矩陣乘法作為基本運算元素后取得實質(zhì)性進展的公司。”接受ZDNet專訪的GTI總裁楊林如是說。

楊林清楚地認識到眾多初創(chuàng)企業(yè)都擁有新型AI半導(dǎo)體設(shè)計，比如ZDNet近日報道的Cornami、Flex Logix與Efinix等產(chǎn)品。

“有些芯片制造商正在思考matrix或tensor的新型架構(gòu)。” 楊林說，而GTI在一月份推出了第一款硅芯片產(chǎn)品?！罢劦秸嬲男酒矣X得我們是市場上唯一一家真正的硅芯制造商?！?/p>

三星電子、LG電子、富士通等一些大體量客戶確信，GTI會提供他們需要的產(chǎn)品。

“剛開始我們只有七個人?！盙TI營銷總監(jiān)Marc Naddell補充道。“想象一下，一小撮人在創(chuàng)業(yè)最開始的八個月里致力于一款芯片的研發(fā)?！盢addell與楊林均強調(diào)，Gyrfalcon是三星的獨家AI芯片合作伙伴。

“我們的第一款芯片大獲成功，因此像我們這樣歷史短、規(guī)模小的公司能夠贏得三星等大品牌的青睞。”他說道。

GTI產(chǎn)品致勝的關(guān)鍵在于其具備絕佳的能效，在性能方面勝過英特爾傳統(tǒng)中央處理器（CPU）與Nvidia圖形處理器（GPU）。“我們就是對抗歌利亞的大衛(wèi)。” 楊林說。

大衛(wèi)對抗歌利亞

備注：大衛(wèi)與巨人哥利亞的決斗是一個著名的西方典故，意為以弱勝強?！妒ソ?jīng)》中記載，歌利亞是非利士將軍，帶兵進攻以色列軍隊，后被牧童大衛(wèi)打敗。大衛(wèi)日后統(tǒng)一以色列，成為著名的大衛(wèi)王。

GTI的產(chǎn)品正在向品牌化方向發(fā)展時，“Lightspeeur”以“2801”芯片為起點，在今年國際消費類電子產(chǎn)品展覽會（Consumer Electronics Show 簡稱 CES）上亮相。“Lightspeeur”是一種用于“推理（inference）”的零件，而“推理”是機器學(xué)習(xí)的組成部分，神經(jīng)網(wǎng)絡(luò)利用訓(xùn)練階段習(xí)得的信息為新出現(xiàn)的問題提供解決方案。該零件適用于“邊緣”設(shè)備，如智能手機、智能揚聲器或筆記本電腦。

國際消費電子展（CES）是世界最大的消費類電子產(chǎn)品展會

GTI指出，一種稱為“存儲計算一體化”（APiM）的方法，讓所有相同的運算單元與存儲融為一體，可大大降低外存儲器的利用率，從而大幅降低AI芯片的功率預(yù)算。

“2801”的運算速度可達到每秒9.3萬億次，僅耗能1瓦特，且每一次都是乘法累加運算。如今，這樣“萬億次/每秒”（TOPS）的計算單位是AI芯片能耗常見的表示方法。

它“比英特爾Movidius產(chǎn)品的能效高90%”，楊林在談到英特爾收購?fù)綧ovidius時獲得的推理芯片時如是說。

GTI第一代芯片Lightspeeur?2801S

繼“2801”后出現(xiàn)的“2803”于上月面世，旨在處理云服務(wù)器更加繁重的推理負載。其性能更佳，能效更好，耗能1瓦特時，計算速度高達24 TOPS。GTI表示，“2803”不僅適用于推理，還可用于訓(xùn)練，利用一種技術(shù)優(yōu)化“馬爾科夫鏈蒙特卡洛”（Markov Chain Monte Carlo）網(wǎng)絡(luò)，替代更為常見的隨機梯度下降(Stochastic gradient descent，SGD)。

 “2801”與“2803”都可以在電路板上聯(lián)結(jié)，并且通過外部設(shè)備高速擴展總線（PCI-E）作為插件同時運行。兩者均擁有嵌入式存儲器，“2801”可存儲9兆字節(jié)。緊鄰所有運算單位的存儲器，使芯片能夠承擔(dān)幾乎所有的推理工作，無需芯片外設(shè)DRAM。GTI將其稱為“存儲計算一體化”或“APiM”。

“我可以一次性地將網(wǎng)絡(luò)模型、權(quán)重與激活單元預(yù)加載到這款芯片上?！?楊林說，“無需求助外部系統(tǒng)；這樣做能夠明顯降低能耗，大幅提升芯片的性能?！?/p>

本月，GTI透露了下一產(chǎn)品的部分信息。該產(chǎn)品主要用于“物聯(lián)網(wǎng)Lot”領(lǐng)域，直到下個月才會正式發(fā)布。這個最新產(chǎn)品名為“2802”，提供了另一項有趣的技術(shù)：非易失性存儲器（Non-volatile memory, NVM）。

“2802”以“磁性”隨機存儲器（MRAM）替代了“2801”與“2803”運用的靜態(tài)隨機存取存儲器（SRAM）。與NAND快閃存儲器相似，MRAM在能量耗盡時不會丟失數(shù)據(jù)。這意味著一套神經(jīng)網(wǎng)絡(luò)可由客戶進行預(yù)加載，甚至可以在“2802”出廠前由原廠預(yù)加載。

GTI在乘法累加運算（Multiply Accumulate, MAC）的同一套模具上制造MRAM，該方法是GTI正在申請的五十個專利之一?？焖偎阉髅绹鴮＠值纳暾垟?shù)據(jù)庫和授予專利，可迅速了解 GTI技術(shù)的具體情況。1992年，伯克利分校憑借楊博士及其導(dǎo)師Leon Chua的芯片發(fā)明獲得了一項專利。碰巧的是，Chua在該領(lǐng)域的大量研究可應(yīng)用于多項領(lǐng)域，包括Chua在1998年出版的專著《細胞神經(jīng)網(wǎng)絡(luò)：復(fù)雜性的典范》（CNN：A Paradigm for Complexity）

當(dāng)然，困難之處在于軟件。與CPU和GPU不同，GTI的專用集成電路（ASIC）難以獲得編程棧。

對比：GTI的Lightspeeur與英特爾和Nvidia芯片在AI處理上的差別

因此，剛剛發(fā)布了一個開發(fā)者軟件開發(fā)工具包（SDK），為產(chǎn)品打造應(yīng)用程序。該開發(fā)工具可在兩個硬件配件上進行測試，即USB加密鎖“PLAI Plug”與獨立設(shè)備“PLAI WiFi”，后者可作為手機的無線加速工具。

GTI按照楊博士在伯克利制定的路線不斷發(fā)展，已經(jīng)邁出了似乎有風(fēng)險的一步：正在卷積神經(jīng)網(wǎng)絡(luò)（CNN）上鋪設(shè)自己的電路。雖然那時楊博士使用的是“細胞神經(jīng)網(wǎng)絡(luò)”（“cellular neural networks, CNN”，Gyrfalcon依然在專利申請文件中使用該術(shù)語）這樣的模型，但其具有獨創(chuàng)性的研究工作圍繞卷積運算展開。

當(dāng)然，卷積神經(jīng)網(wǎng)絡(luò)在近幾年來成為了最重要的神經(jīng)網(wǎng)絡(luò)設(shè)計之一，但這一做法讓芯片不太適用于其他類型的網(wǎng)絡(luò)，如“長短期記憶”網(wǎng)絡(luò)。

不過，楊林并未對理論上的局限性憂心忡忡。

“CNN是所有其他AI的基礎(chǔ)?！彼f。“對此，我們做了研究，發(fā)現(xiàn)ResNet和MobileNet在CNN市場中依然占主導(dǎo)地位?！睏盍终f，其他初創(chuàng)公司正在試圖進軍每一種網(wǎng)絡(luò)，“他們試圖覆蓋所有現(xiàn)存及未來的神經(jīng)網(wǎng)絡(luò)，但我還沒有發(fā)現(xiàn)任何一家公司能夠成功地兼顧全面性與能效性。”

如果新型網(wǎng)絡(luò)出現(xiàn)，占據(jù)了大部分的市場份額，“那我們就會針對它推出另外一款芯片。”他說。

一個很有意思的想法是，（如果）按照生產(chǎn)曲線看一看GTI在發(fā)展時發(fā)生了什么，是什么使其電路更加高效。GTI的初代產(chǎn)品由臺灣半導(dǎo)體制造商28納米制造工藝完成，與英特爾和Nvidia的尖端產(chǎn)品相比，該工藝運用的節(jié)點更為陳舊。

“我們正在用28納米的工藝擊敗正在使用7納米或12納米的同行，比如Nvidia?！?楊林說?！拔覀兪侨缤月褤羰姆磁颜?，但我們贏了！”

Marc Naddell,這位GTI的營銷總監(jiān)補充道：“當(dāng)我們采用12納米或7納米的工藝時，其他公司將會做什么呢？”

GTI的另一條發(fā)展途徑就是將自主研發(fā)的芯片授權(quán)給其他AI芯片制造商。楊林目前的工作重心并沒有放在這上面，但他看到許多潛力?！癎raphcore等其他初創(chuàng)公司做的東西與我們極其相似，但如果他們想做大，就必須找我們?！?/p>

根據(jù)最新數(shù)據(jù)，Graphcore籌措到的金額超過1億美元。資金支持對芯片初創(chuàng)企業(yè)至關(guān)重要，因為一家公司從設(shè)計到芯片的初步“流片”，再到開發(fā)和維護客戶基礎(chǔ)，平均需要投入數(shù)億美元。

GTI沒有向記者透露公司籌集到的資金數(shù)額，但他們表示，他們已經(jīng)“從美國、日本、韓國、中國的機構(gòu)與企業(yè)投資者手中獲得三輪融資”，并補充道：“就目前的員工配置與支出率來說，籌措的資金可供公司運營至少三年時間。