人工智能的崛起有三個基本要素:算法、數(shù)據(jù)和算力。當云計算廣泛應用,深度學習成為當下AI研究和運用的主流方式時,AI對算力的要求正快速提升。對AI芯片的持續(xù)深耕,就是對算力的不懈追求。近日,亞馬遜一年一度的、神秘的 MARS 大會在加利福尼亞州棕櫚泉市如期舉行。
亞馬遜 MARS 大會是一個只有受邀才能參加的高端會議,在棕櫚泉市這個奢華的度假勝地,你能看到大量機器人或漫步或飛行,并有機會與眾多著名科學家和科幻作家們交流。大會上,只有少數(shù)研究人員會被邀請來做技術講座,這些講座既令人敬η,又發(fā)人深省。與此同時,與會者中有大約 100 名世界上最重要的研究人員、CEO 和企業(yè)家。MARS 大會的東道主不是別人,正是現(xiàn)場坐在前排的亞馬遜創(chuàng)始人兼董事長杰夫·貝佐斯。
MARS 大會的目的是展示機器學習、自動化、機器人和太空領域中最新和最古怪的技術,因此以火星命名(MARS 4個字母分別代表:Machine Learning 機器學習、Home Automation 家庭自動化、Robotics 機器人、Space Exploration 太空探索 ),也是貝索斯對尖端科技的熱情展示。
而在今年的大會上,一款人工智能芯片的亮相引起了我們的注意。這款芯片由麻省理工學院的 Vivienne Sze 和她的同事共同打造。在當時的 MARS 大會上,其他的演講者介紹了“空手斷木”機器人、像昆蟲一樣無聲飛行的無人機,甚至還有火星殖民地的藍圖,Sze 的演講可能看起來更中規(guī)中矩。在普通人看來,Sze 展示的芯片與其他任何電子設備中都能找到的芯片?有什?區(qū)別。但是,它們比大會上展示的所有東西都重要得多。
對 Vivienne Sze 來說,她在 MARS 舞臺上發(fā)表了一場或許是她職業(yè)生涯中最傷腦筋的演講。
其實,她對這個項目了如指掌。她在麻省理工學院實驗室里開發(fā)的芯片,有望將強大的人工智能帶到許多終端硬件設備上,并超出大多數(shù)大型人工智能數(shù)據(jù)計算中心的能力范Χ。然而,演講和觀眾的熱情表現(xiàn)讓 Sze 始料δ及。Sze 笑著回憶道:“我想你會說,那是一群水平相當高的觀眾”。
邊緣計算讓神經(jīng)網(wǎng)絡走向定制芯片
近年來,神經(jīng)網(wǎng)絡的流行讓我們迎來了自動駕駛、語音識別、計算機視覺和自動翻譯等領域一系列的突破和進展,但也將其消耗大量內(nèi)存和能源的缺點暴?無遺。盡管現(xiàn)在我們還能靠云端服務器支撐運算,但是這不會是 AI 走向大范Χ應用的長遠之計。
現(xiàn)在,簡單的人工智能芯片已經(jīng)產(chǎn)生了重大影響。高端智能手機已經(jīng)在使用為運行圖像和語音識別的深度學習算法而優(yōu)化的芯片。與之相比,更高效的芯片可以讓這些設備運行功能更強大的人工智能代碼。自動駕駛汽車也需要強大的人工智能芯片,因為目前大多數(shù)汽車都依賴于大型計算機。
為改變這些現(xiàn)狀,身為 MIT 電氣工程和計算機科學系(EECS)副教授的 Sze,一直在研發(fā)新的適用于神經(jīng)網(wǎng)絡的高能效計算機芯片,這種芯片可使人工智能系統(tǒng)在移動設備上進行本地運行。
Sze 的芯片叫做Eyeriss。它是 Sze 與英偉達研究科學家、麻省理工學院教授 Joel Emer 合作開發(fā)的。該芯片與許多標準處理器一起進行了測試,以了解它如何處理一系列不同的深度學習算法。根據(jù)去年網(wǎng)上發(fā)表的一篇論文,綜合效率和靈活性,新芯片的性能比現(xiàn)有硬件高出 10 倍,甚至 1000 倍。
具體而言,Eyeriss 是一個高效能的深度卷積神經(jīng)網(wǎng)絡(CNN)加速器硬件,能夠讓移動設備執(zhí)行自然語言處理和面部識別等任務,而無需連接至互聯(lián)網(wǎng)。顯然,這是讓機器學習變得更加便攜的嘗試。換言之,借助 Eyeriss,智能手機、可穿戴設備、機器人、自動駕駛汽車、以及其它物聯(lián)網(wǎng)設備,都能夠在本地處理復雜的深度學習任務。
這點在此前一直非常難以做到,因為深度學習依賴于大規(guī)模的計算機處理性能,而 GPU 加速就是比較常見的一種方式。盡管 GPU 能夠勝任此工作,但它也有一個最大的缺點——費電。而 Eyeriss 也比起現(xiàn)有的圖形處理器 GPUs 更加高效。
目前,Eyeriss 也得到了美國國防部高級研究計劃局(Darpa)的資助。
芯片開發(fā)新挑戰(zhàn)
對于這款芯片,英特爾人工智能產(chǎn)品集團副總裁 Naveen Rao 認為,MIT 的芯片很有前途,但是決定一個新的硬件架構能否成功有很多因素。他說,最重要的因素之一是軟件開發(fā),“從編譯器的角度來看,使某些東西可用可能是使用它的最大障礙?!?/p>
他也表示:“人工智能將無處不在,而找出提高產(chǎn)品能效的方法將極其重要?!?/p>
例如,Sze 的硬件效率更高,部分原因是它在物理上解決了數(shù)據(jù)存儲和分析之間的瓶頸,還因為它使用了重用數(shù)據(jù)的巧妙方案。在加入麻省理工學院之前,Sze 為一家公司開創(chuàng)了這種提高視頻壓縮效率的方法。
事實上,Sze 的實驗室也還在探索設計軟件的方法,以便更好地利用現(xiàn)有計算機芯片的特性,這不僅僅是深度學習方面的工作。
Sze 也與麻省理工學院航空航天系的 Sertac Karaman 合作,開發(fā)了一種名為 Navion 的低功耗芯片,它可以在小型無人機上非常高效地進行三維測繪和導航。這項工作的關鍵是利用以導航為重點的算法精心設計芯片,并設計算法來充分利用這款定制芯片。和深度學習一樣,Navion 反映了人工智能軟件和硬件開始在共生中進化的過程。
在 MARS 大會上,Sze 的芯片可能不像無人機那樣吸引眼球,但它們在大會上展出的事實,讓人們多少意識到她的技術,以及更廣泛意義上的硅芯片創(chuàng)新對人工智能的δ來有多?重要。Sze 說,在她的演講之后,其他一些演講者表示有興趣了解更多?!叭藗儼l(fā)現(xiàn)了很多重要的用例?!?/p>
這些新設計的芯片,例如 Sze 實驗室正在開發(fā)的芯片,可能對δ來人工智能的發(fā)展至關重要。到目前為止,人工智能算法主要運行在圖形處理芯片上,但新的硬件可以讓人工智能算法更強大,從而解鎖新的應用方向。例如,新的人工智能芯片可以讓倉庫機器人變得更加普遍,或者讓智能手機創(chuàng)造出逼真的增強現(xiàn)實場景。
Sze 的芯片在設計上非常高效和靈活,這對于人工智能這一發(fā)展極其迅速的領域來說是至關重要的?,F(xiàn)在,Sze 和同事還試圖從另一個方向解決相關的能耗問題,如運用電池技術設計更節(jié)能的神經(jīng)網(wǎng)絡。
Sze 認為,真正的機會不是制造最強大的深度學習芯片,電池效率也很重要,人工智能還需要在大型數(shù)據(jù)中心無法達到的地方運行,這意ζ著只能依靠設備本身的電池來運行。
依然火熱的 AI 芯片創(chuàng)業(yè)潮
現(xiàn)在,摩爾定律越來越多地遇到由原子級工程組件所帶來的物理極限。它也激發(fā)了人們新的對其他替代結構和計算方法的興趣。
美國政府并?有忽視投資下一代人工智能芯片、保持美國在芯片制造領域的總體主導地λ所帶來的高風險。正如上文提到,Sze 的芯片研發(fā)受到了 DARPA 資助,而除了這一項目以外,DARPA 也還資助了其他一些旨在幫助設計開發(fā)新人工智能芯片的項目。
需要強調(diào)的是,芯片制造領域的創(chuàng)新主要是由深度學習推動的。深度學習是一種非常強大的可以讓計算機執(zhí)行某些任務的學習方式。有了深度學習算法,不需要給計算機制定所ν的規(guī)則:在大型的模擬人工神經(jīng)網(wǎng)絡中輸入訓練數(shù)據(jù),然后對其進行調(diào)整,使其產(chǎn)生預期的結果。經(jīng)過足夠的訓練,深度學習系統(tǒng)可以在數(shù)據(jù)中發(fā)現(xiàn)細微和抽象的模式。從智能手機的人臉識別到醫(yī)學圖像預測疾病,這項技術越來越多的被應用到實際任務中。
但是,深度學習并不那?符合摩爾定律。神經(jīng)網(wǎng)絡可以同時運行許多數(shù)學計算,因此它們在處理 3D 圖像的視頻游戲圖形芯片上運行得更有效,專門為支持深度學習算法而設計的芯片則更強大。
正因為新芯片架構改善人工智能的潛力,芯片行業(yè)幾十年來從δ出現(xiàn)的創(chuàng)業(yè)熱得以激發(fā)。
對于像深度學習這樣快速發(fā)展的領域,人工智能芯片的工作人員面臨的挑戰(zhàn)是,確保芯片足夠靈活,能夠適應任何應用程序。設計一個只做一件事的超級高效芯片很容易,但這樣的產(chǎn)品很快就會過時。
目前的人工智能算法可以說已經(jīng)改變世界了,然而這些芯片的設計,還能從深度學習人工智能算法中挖掘出更多東西。在這個過程中,它們可能會激發(fā)這些算法本身的進化。Sze 說,“我們需要開發(fā)新的硬件,因為摩爾定律已經(jīng)放慢了速度”。
包括谷歌、微軟和亞馬遜在內(nèi)的大型科技公司,都在開發(fā)自己的深度學習芯片,希望利用和商業(yè)化人工智能。許多小型初創(chuàng)公司也在開發(fā)新的芯片。
正如分析公司 Linley Group 的芯片分析師 Mike Delmer 表示,“我們已無法跟蹤所有進入人工智能芯片領域的公司,我不是在開玩笑,我們幾乎?周都要認識一個新的公司?!?/p>
換句話說,下一屆 MARS 大會上引人注目的機器人和無人機上,我們可能看到這些機器終端用上一些相當特別的芯片