2019年，英特爾人工智能收入達到38億美元，在軟硬件協(xié)同創(chuàng)新、產(chǎn)業(yè)合作以及生態(tài)構建等方面的進展，推動了英特爾以數(shù)據(jù)為中心的業(yè)務的增長。而英特爾對于人工智能的探索，也經(jīng)歷了不少的波折。
去年年底，英特爾斥資約20億美元收購以色列人工智能公司Habana Labs。隨即，英特爾宣布新近收購的Habana的系列產(chǎn)品將取代原定的服務器端AI加速芯片Nervana Spring Crest NNP-T，而Spring Crest NNP-T系列將停止開發(fā)。
根據(jù)相關資料顯示，英特爾之所以做出這個決定，是Habana在被收購之前，其芯片就已經(jīng)被應用于市場當中，而這也能幫助英特爾能夠迅速切入到AI芯片競爭當中。據(jù)悉，Habana的芯片分為兩個系列，即針對訓練的Gaudi系列和針對推理的Goya系列。
被收購后，Habana作為一個獨立的業(yè)務部門，向英特爾的數(shù)據(jù)平臺集團匯報。在被英特爾收購一年以后，Habana的表現(xiàn)如何?；蛟S，從Habana最近與AWS的合作中便可讓我們窺見他的鋒芒。
云端訓練芯片市場的挑戰(zhàn)者
眾所周知，云端訓練芯片市場一直是英偉達的天下。伴隨著人工智能應用的場景越來越多，云端訓練芯片市場成為了一塊大蛋糕，這也使得很多廠商都在力圖這個領域的發(fā)展。英特爾便是其中之一，而Habana則是英特爾突破這塊市場的得力干將。
Habana的Gaudi系列是針對訓練芯片市場而打造的，不久前，其Gaudi系列產(chǎn)品成功進入到了AWS的服務器當中。據(jù)官方新聞顯示，Invent 2020（AWS re:Invent 2020）大會上，AWS首席執(zhí)行官Andy Jassy宣布了采用最多8個Habana Gaudi加速器的EC2實例。
據(jù)稱，對于機器學習工作負載，這些全新EC2實例的性價比相較目前基于GPU的EC2實例提升高達40%。8卡的Gaudi 解決方案可以在TensorFlow上每秒處理12000張圖像訓練ResNet-50模型。每個Gaudi處理器集成了32GB的HBM2內(nèi)存，并集成了用于服務器內(nèi)部處理器互聯(lián)的RoCE功能。憑借AWS彈性架構適配器（EFA）的技術可以跨服務器擴展，從而允許AWS及其客戶無縫地擴展使用多個基于Gaudi的系統(tǒng)以實現(xiàn)高效和可擴展的分布式訓練。
從功耗上看，本次AWS采用的是16納米制程的Gaudi，其功耗在260W-300W之間，功耗比A100 GPU略有一點優(yōu)勢。Habana在現(xiàn)有制程和功耗上的表現(xiàn)，說明整個架構相對A100 GPU沒有任何劣勢，應該還有一定的優(yōu)勢。
對于云端訓練市場來說，英偉達的GPU架構一直是這個領域的主流。而本次AWS采用Gaudi產(chǎn)品則向業(yè)界傳遞了這樣一個信號——在訓練端我們確實可以通過不同的架構對AI進行加速，并帶來不一樣的客戶體驗。
Habana Labs中國區(qū)總經(jīng)理于明揚認為，性價比和軟件生態(tài)是決定一個訓練芯片能否打入市場的關鍵。他表示：“性價比能夠吸引用戶去嘗試一個新平臺，軟件生態(tài)則是能夠幫助用戶將現(xiàn)有的模型更方便、快捷地遷移到新平臺的關鍵?！?/p>
而這，也是AWS選擇Gaudi的原因。（據(jù)介紹，明年的一季度，AWS會開放給客戶去申請Gaudi的資源，去體驗Gaudi的性能）
Habana獲得了什么
在英特爾看來，片間互聯(lián)和系統(tǒng)間互連會為整個訓練系統(tǒng)帶來非常大的影響。
因此，片內(nèi)之間是否可以更多的加載數(shù)據(jù)、如何通過實現(xiàn)數(shù)據(jù)并行化成為了Habana在進行訓練芯片設計時所要考慮的兩個因素。
對于未來，于明揚則表示：“Habana接下來將利用新的制程工藝來提升現(xiàn)有產(chǎn)品的設計。此外，Habana還將致力于與英特爾共同打造一個OneAPI的軟件生態(tài)?！?/p>
據(jù)介紹，Habana在后續(xù)training產(chǎn)品發(fā)展中會采用7nm，并會關注互聯(lián)技術等方面。這樣做的目的，一是可以實現(xiàn)對未來更大模型和更大數(shù)據(jù)集的支持。二是Habana將提供更具精度的數(shù)據(jù)支持。
在上文我們曾提到過，Habana在被收購后是作為一個獨立的部門進行運營，但對于Habana來說，其云端AI在很大程度上是和英特爾現(xiàn)有團隊是高度緊密吻合的。因此，與英特爾的資源進行結合，也是Habana接下來發(fā)展的之一。
英特爾有足夠的客戶群，這為Habana帶來了發(fā)展契機。據(jù)于明揚介紹，Habana被收購之后獲得的人才和技術資源比原來擴大了三倍。這在很大程度上支持了Habana開發(fā)多個產(chǎn)品，以加深對客戶的支持。
其次，英特爾在AI市場有一個統(tǒng)一的平臺架構，憑借其在AI領域的影響力，可以幫助Habana更快地發(fā)展，從而進入到新的領域。據(jù)于明揚介紹，明年Habana計劃會加入到OneAPI的產(chǎn)品序列當中。
整個AI中，需要CPU、GPU以及像Habana這樣的ASIC扮演著不同的角色，英特爾的優(yōu)勢在于無論任何環(huán)節(jié)，英特爾都有合適的產(chǎn)品和解決方案。從一個產(chǎn)品到一個完成的生態(tài)，或許是英特爾提供給Habana的最大助力。
英特爾進軍訓練芯片市場初顯成效
借助Habana，英特爾得以進軍訓練芯片市場。
根據(jù)英特爾官方新聞稿中顯示，英特爾數(shù)據(jù)平臺事業(yè)部首席戰(zhàn)略官Remi El-Ouazzane對于與AWS之間的合作曾表示：“我們的產(chǎn)品組合反應了人工智能并非是能用一種解決方案來滿足所有場景的計算挑戰(zhàn)。云服務提供商目前已廣泛采用了內(nèi)置人工智能性能的英特爾？至強？處理器來應對人工智能推理工作負載。通過Habana，我們現(xiàn)在得以幫助他們降低人工智能模型的大規(guī)模訓練成本，在高增長的市場機遇中提供極富競爭力的替代選擇?！?/p>
與AWS的合作，并不是Habana唯一取得的成績。據(jù)于明揚介紹，Habana已經(jīng)與國內(nèi)頭部的互聯(lián)網(wǎng)公司以及二線的互聯(lián)網(wǎng)公司建立了廣泛的合作。這些公司基本上都已經(jīng)開始試用Habana的產(chǎn)品，部分公司已經(jīng)開始批量采購，并在他們的產(chǎn)線上部署Habana推理和預測的產(chǎn)品。其中，訓練產(chǎn)品相關的測試平臺已經(jīng)在開始進行不同模型的測試，以及新的模型的試運行。
在英特爾亞洲人工智能銷售技術總監(jiān)伊紅衛(wèi)看來，人工智能和數(shù)據(jù)分析是未來10年起決定作用的工作負載，是關鍵的轉(zhuǎn)折性技術，也是英特爾未來增長的重要驅(qū)動因素，這將幫助英特爾加速邁向更廣闊的市場。
而這個市場或許就是英特爾正在做轉(zhuǎn)型的“以數(shù)據(jù)為中心”的市場。他們認為，在以數(shù)據(jù)為中心的時代，釋放數(shù)據(jù)的指數(shù)級潛力，關鍵在于AI x 5G x 智能邊緣等轉(zhuǎn)折性技術，它們加速突破和融合，正成為智能世界的新型基礎設施，釋放智能的X效應，驅(qū)動產(chǎn)業(yè)新一輪的智能創(chuàng)新。