前不久的GTC 2021之上，老黃宣布英偉達(dá)很快將推出應(yīng)用于HPC AI的中央處理器Grace——基于Arm架構(gòu)。這在數(shù)據(jù)中心/服務(wù)器/基礎(chǔ)設(shè)施行業(yè)是個(gè)大新聞。

　　雖然去年到今年是Arm在各行各業(yè)大獲全勝的兩年，數(shù)據(jù)中心也頻繁出現(xiàn)Arm的身影——比如亞馬遜自研的Graviton2處理器基于Arm，富士通面向HPC的A64FX處理器基于Arm——這些在《Arm的十年P(guān)C征程，和微軟的“曖昧”》一文中就有所提及。

　　但英偉達(dá)在數(shù)據(jù)中心的分量，幾乎將Arm推到了最前線，多少有點(diǎn)兒很快就能把根植于該市場(chǎng)的x86拉下馬的意思。有關(guān)英偉達(dá)的Grace，很快我們會(huì)發(fā)表另一篇文章做單獨(dú)評(píng)論，即便個(gè)人認(rèn)為Grace著力的市場(chǎng)具有相當(dāng)強(qiáng)的針對(duì)性。本文嘗試呈現(xiàn)，拋開Grace不談，Arm如今在服務(wù)器市場(chǎng)，究竟已經(jīng)發(fā)展到了何種程度。

　　Arm第一次認(rèn)真對(duì)待服務(wù)器市場(chǎng)

　　Arm一直以來就有突破移動(dòng)與嵌入式市場(chǎng)的野心，只不過就像Arm在PC之上的10年征程那樣，這個(gè)過程是需要不斷試錯(cuò)的。英偉達(dá)探索高性能CPU/SoC也不是今天才開始的，在10多年前英偉達(dá)就曾宣布過一個(gè)叫做Project Denver的項(xiàng)目，旨在與Arm合作面向HPC（高性能計(jì)算）市場(chǎng)推CPU產(chǎn)品。

　　不止是英偉達(dá)，高通也曾推出基于Arm架構(gòu)的Centriq處理器，面向企業(yè)和服務(wù)器市場(chǎng)；Cavium的ThunderX此前也算是知名的Arm服務(wù)器芯片；還有博通的Vulcan，AMD的Opteron A1100……雖然它們中的大部分都失敗了。感覺從這些項(xiàng)目初期展示的PPT來看，Intel早就應(yīng)該縮在墻角顫抖了。但事實(shí)上，Arm在這一領(lǐng)域始終沒能真正走入主流視野（雖然Arm一直宣稱自己是“基礎(chǔ)設(shè)施（infrastructure）”設(shè)備中市場(chǎng)份額最高的，包含路由器、交換機(jī)、基站、服務(wù)器等）。

　　到近代鯤鵬920這類服務(wù)器芯片面世，以及如今相當(dāng)活躍的Ampere Computing也在推基于Arm的服務(wù)器處理器，Arm才真正在這一領(lǐng)域逐漸像樣起來。今年的GTC主題演講上，黃仁勛也宣布，英偉達(dá)的GPU開始和Ampere Computing、亞馬遜、聯(lián)發(fā)科等合作伙伴的CPU/SoC搭配，從云到邊緣到消費(fèi)終端。雖然在接受采訪時(shí)，黃仁勛說Grace并不會(huì)多大程度影響到現(xiàn)有客戶，但這明擺著就有拆AMD/Intel墻角的意思。

　　Arm在服務(wù)器、基礎(chǔ)設(shè)施，或者說數(shù)據(jù)中心產(chǎn)品的試錯(cuò)歷史就不多做回顧了。事實(shí)上，Arm過去雖然也一直有試探服務(wù)器市場(chǎng)的意思，但他們始終都沒有面向這些數(shù)據(jù)中心的基礎(chǔ)設(shè)施，推過專門的IP——Arm在該市場(chǎng)的IP，基本與面向消費(fèi)市場(chǎng)的IP共享。

　　這一點(diǎn)其實(shí)是無可厚非的，大部分芯片制造商的同代核心IP，面向不同市場(chǎng)都會(huì)做較大程度的共享。但這也表現(xiàn)出Arm此前針對(duì)基礎(chǔ)設(shè)施設(shè)備并沒有明晰、像樣的市場(chǎng)規(guī)劃，這對(duì)生態(tài)構(gòu)建本來就是不利的。

　　轉(zhuǎn)機(jī)出現(xiàn)在2018年，這一年10月份的TechCon上，Arm正式宣布推出Neoverse系列IP，面向服務(wù)器市場(chǎng)，從云到邊緣。與此同時(shí)還公開了未來3年的產(chǎn)品路線圖，如上圖所示。Arm Neoverse可以理解為服務(wù)器版的Arm Cortex。

　　這張圖列出了一年一迭代的Neoverse版本，比如2019年代號(hào)為Ares的處理器核心IP，也就是Neoverse N1。Arm最早的時(shí)候宣布，未來每年迭代都將實(shí)現(xiàn)30%的性能提升——聽起來比旁邊的Cortex系列平均增速要快些，也比競(jìng)爭(zhēng)對(duì)手更快。后來的發(fā)布會(huì)上，Arm又宣布N1性能提升，實(shí)際相比2018年的Cosmos高出了60%（不過Cosmos據(jù)說并不指代一個(gè)專門的架構(gòu)），是原目標(biāo)的2倍提升——基于SPEC2017整形測(cè)試（SPECspeed2017_int_base）。到今年發(fā)布的N2，提升速度似乎又超預(yù)期了，后文還將探討更具體的微架構(gòu)變化。

　　2019年2月份，Arm正式宣布推出Neoverse N1與E1平臺(tái)——這應(yīng)該是Arm對(duì)服務(wù)器市場(chǎng)改朝換代的開始。

　　當(dāng)然光換個(gè)名字肯定是沒用的，此前多篇探討Arm發(fā)展史的文章中，我們都談到了近代Arm的核心IP，在保持低功耗特性的前提下，在高性能方面也有了突破。即便一般的芯片制造商無法做到蘋果M1那種程度，高通驍龍8cx也已經(jīng)有了應(yīng)用于PC的可行性。起碼如今這個(gè)時(shí)代，和10年前英偉達(dá)Project Denver時(shí)代（Cortex-A15時(shí)代）還是有根本差別的。

　　2018年這一年，Arm向市場(chǎng)推出Cortex A76核心IP，這應(yīng)該是眾所周知的了——高通面向PC所推的驍龍8cx就應(yīng)用了Cortex A76微架構(gòu)。次年問世的Neoverse N1實(shí)際上就屬于Cortex A76微架構(gòu)的變體，或者說基于Cortex A76。

　　Austin家族微架構(gòu)（選讀）

　　這兩者都來自Arm奧斯汀設(shè)計(jì)中心，都屬于Austin家族微架構(gòu)，基于ARMv8指令集。事實(shí)上Cortex與Neoverse后續(xù)更新版本，包括Cortex A78、Neoverse V1應(yīng)當(dāng)都屬于Austin家族，今年預(yù)計(jì)要推向市場(chǎng)的新一代Neoverse Poseidon才會(huì)采用全新的微架構(gòu)。

　　Neoverse V1和Cortex A76一樣都采用4-wide取指/解碼，11級(jí)管線深度，可在需要時(shí)縮減至9級(jí)。前端、后端的區(qū)別都不大。

　　兩者區(qū)別比較大的部分主要在存儲(chǔ)、連接方面——作為服務(wù)器處理器，這也是必然的。L1-I cache做到硬件級(jí)別的完全一致性（coherency），這屬于面向虛擬環(huán)境性能的改進(jìn)。L2新增1MB可選大?。ˋ76是512KB），針對(duì)存儲(chǔ)敏感型應(yīng)用。

　　存儲(chǔ)層級(jí)結(jié)構(gòu)發(fā)生了比較大的變化。N1 CPU是連接到mesh網(wǎng)絡(luò)之上的，即CMN-600（CMN-600是Arm最早于2016年發(fā)布的SoC互聯(lián)IP，全稱叫coherent mesh network;如上圖所示，連接中間經(jīng)過了CAL以及mesh網(wǎng)絡(luò)的XP交叉點(diǎn)；每個(gè)CAL層至多連接2個(gè)N1——即兩核為一簇）。在Arm的參考設(shè)計(jì)中，后續(xù)再連接到系統(tǒng)級(jí)緩存——SLC（system level cache）slice，每簇2MB，參考設(shè)計(jì)64核N1總共64MB SLC。

　　這張圖來自Wikichip，結(jié)構(gòu)描繪上更為清晰

　　N1去掉了L3和DSU（DynamIQ Shared Unit）的監(jiān)聽過濾（snoop-filter）邏輯，CPU核心直接連接到CMN的CHI接口。這樣一來內(nèi)存控制器和CPU核心之間的通訊，只需要經(jīng)過mesh網(wǎng)絡(luò)。這好像也屬于服務(wù)器CPU的標(biāo)配。

　　7nm工藝也是與上述設(shè)計(jì)內(nèi)容配套的，核心面積整體上還是很小。另外，Neoverse N1一個(gè)比較大的變化是最高頻率往上提了，發(fā)布時(shí)是說達(dá)到3.1GHz，電壓也需相應(yīng)提高，提供更高的單線程性能——頻率提高19%，實(shí)際上需要44%的功耗為代價(jià)，這也很能表現(xiàn)Arm在頻率與功耗的關(guān)系上，并沒有什么魔法。亞馬遜Graviton2就是基于Neoverse N1的芯片，CPU核心頻率只選擇了2.5GHz。

　　基于消費(fèi)級(jí)產(chǎn)品提升頻率，和Intel、AMD這種傳統(tǒng)服務(wù)器CPU供應(yīng)商的思路就不同了：x86市場(chǎng)的這兩名玩家，其服務(wù)器CPU微架構(gòu)也與消費(fèi)CPU共享，但服務(wù)器CPU卻是拉低核心頻率的。這與雙方在消費(fèi)市場(chǎng)的定位還是有很大關(guān)系的。

　　不過即便是這樣，功耗還是有優(yōu)勢(shì)，Arm此前宣稱64核的N1參考設(shè)計(jì)總功耗大約為105W;Arm公開其64核參考設(shè)計(jì)SPECint_rate2006吞吐測(cè)試得分1310分，整數(shù)延遲得分（SPECint2006）37分，還是能夠表現(xiàn)Arm能效方面的優(yōu)勢(shì)的。

　　對(duì)于networking和存儲(chǔ)服務(wù)器，Arm推薦8-32核N1設(shè)計(jì)，TDP 25-65W;類似5G基站邊緣端側(cè)設(shè)備，16-64核目標(biāo)設(shè)計(jì)，TDP 35-105W;對(duì)于超大規(guī)模數(shù)據(jù)中心而言，N1目標(biāo)設(shè)計(jì)64-128核，TDP >150W。

　　Arm的Neoverse N1平臺(tái)參考設(shè)計(jì)64核心，外加前面提到的CMN-600 mesh網(wǎng)絡(luò)和64MB SLC緩存。臺(tái)積電7nm工藝制造64核N1參考設(shè)計(jì)的die size已經(jīng)快要接近400mm?了，Arm也因此推薦chiplet那樣的設(shè)計(jì)，chiplet die之間通過CCIX互聯(lián)來通訊。

　　另外Neoverse N1平臺(tái)設(shè)計(jì)中，可集成SmartNIC——加速網(wǎng)絡(luò)連接還是如今實(shí)現(xiàn)數(shù)據(jù)中心高吞吐的重要因素（看看英偉達(dá)現(xiàn)在都在宣傳些啥）。CMN-600可連一些固定功能加速IP。通過CCIX連接第三方IP，可實(shí)現(xiàn)存儲(chǔ)一致性。更多特性不再列舉，屬于服務(wù)器RAS、安全等相關(guān)的。

　　Arm服務(wù)器CPU的效率現(xiàn)在怎么樣？

　　早前的Arm服務(wù)器處理器IP核心不夠主流，很大程度上在于性能和效率都不怎么樣。硬件層面的性能和功耗表現(xiàn)，是爭(zhēng)奪這塊市場(chǎng)的基本要求。

　　能了解服務(wù)器CPU性能的渠道不多，像亞馬遜Graviton2這種芯片都還是亞馬遜自用的。不過隨Arm這兩年在服務(wù)器市場(chǎng)的活躍，像AnandTech這樣的外媒也開始把性能測(cè)試觸及到了服務(wù)器、基礎(chǔ)設(shè)施處理器產(chǎn)品之上。

　　事實(shí)上，2018年Cavium的ThunderX2被AnandTech認(rèn)為是這一領(lǐng)域，Arm平臺(tái)首次可與Intel、AMD相提并論的處理器產(chǎn)品。此后亞馬遜Graviton處理器的出現(xiàn)也表明，Arm處理器是可以成為服務(wù)器領(lǐng)域的主流的。

　　除了亞馬遜Graviton2，在Neoverse N1實(shí)施方案中，比較具有代表性的應(yīng)該是Ampere Computing最新的 Altra產(chǎn)品線。去年的Altra Q80-33就是用來對(duì)標(biāo)Intel、AMD在服務(wù)器市場(chǎng)的高端產(chǎn)品的。

　　Altra Q80-33主頻最高3.3GHz，80核心；CMN-600 mesh互聯(lián)，每核心L2選配1MB，以及32MB SLC——每核心分配到的SLC可能少了點(diǎn)。I/O以及更高的系統(tǒng)層面就不做介紹了，Ampere打造的Mount Jade，2-socket 2U機(jī)架服務(wù)器，有興趣的可以去查一查外圍的配置。

　　值得一提的是，這顆處理器的TDP標(biāo)250W，實(shí)際上它并不是指常規(guī)負(fù)載的平均功耗，而是峰值狀態(tài)下的平均功耗。其實(shí)際功耗大部分情況下低于250W，AnandTech認(rèn)為按照Intel、AMD的標(biāo)法，Altra Q80-33的TDP應(yīng)該在200W左右。

　　與之對(duì)應(yīng)，Intel前不久剛剛發(fā)布的Ice Lake-SP至強(qiáng)處理器，高配型號(hào)的TDP 270W（最高配8380為40核心，十代酷睿的Sunny Cove架構(gòu)）；AMD上個(gè)月推代號(hào)Milan的EPYC處理器，TDP 280W（最高配64核心，Zen 3架構(gòu)）。如果光從高配版處理器的售價(jià)來看，Ampere Altra的性價(jià)比還是高出了一大截的。

　　AnandTech最近剛剛測(cè)試了Ice Lake-SP，參測(cè)的還包括AMD Milan、Ampere Altra，以及亞馬遜Graviton2。測(cè)試項(xiàng)分成多線程性能（SPECint2017/SPECfp2017 Base Rate-N）、單線程性能（SPEC2017 Rate-1）、每核心性能（針對(duì)per core licensing）、JAVA性能（SPECjbb MultiJVM）、LLVM編譯、NAMD性能。有興趣的可前往了解，這里就不列出具體的成績(jī)了（因?yàn)槠颍蠄D只列出了整數(shù)多線程性能/單線程性能）。

　　單看x86平臺(tái)，自從AMD Zen 2問世以來，Intel至強(qiáng)處理器在性能上表現(xiàn)出了全方位的乏力。上一代AMD EPYC和Intel至強(qiáng)，在性能上拉開了比較大的差距。這一代Intel稍稍趕上了一些，但在旗艦產(chǎn)品上，整體仍然存在差距。Intel現(xiàn)在愈發(fā)強(qiáng)調(diào)系統(tǒng)性能，從自身包括存儲(chǔ)、軟件優(yōu)化等方面的優(yōu)勢(shì)，彌補(bǔ)CPU本身的弱勢(shì)，所以AnandTech的測(cè)試可能仍然是比較片面的。而且今年下半年規(guī)劃中的Sapphire Rapids會(huì)很快上線。這是題外話了。

　　基于Arm Neoverse N1的Ampere Altra是能夠和AMD上一代Rome架構(gòu)64核的EPYC打得有來有回的。Neoverse在每核性能上還是與x86平臺(tái)有差距；此外Altra在存儲(chǔ)敏感型測(cè)試中的表現(xiàn)并不怎么樣，與其cache配置相關(guān)（以及可能與mesh互聯(lián)有關(guān)）；另外Ampere在整體系統(tǒng)方案上，雙socket擴(kuò)展還是不能和Intel/AMD比。不過偏算力的負(fù)載場(chǎng)景下，Altra更多的核心則有優(yōu)勢(shì)；能效方面，如前所述相比x86平臺(tái)有功耗方面的顯著優(yōu)勢(shì)。

　　特別值得一提的是，Arm平臺(tái)的服務(wù)器處理器還存在價(jià)格上的顯著優(yōu)勢(shì)。與此同時(shí)，Ampere今年還計(jì)劃推一款A(yù)ltra-Max，采用128個(gè)Neoverse-N1核心，屬于Arm設(shè)計(jì)目標(biāo)頂配。

　　雖說以Ampere Altra為代表的Arm處理器仍在性能表現(xiàn)的某些方面不及x86（主要是AMD），但已經(jīng)真正意義上對(duì)x86的服務(wù)器市場(chǎng)構(gòu)成相當(dāng)嚴(yán)肅的威脅了。

　　需要指出的是，加強(qiáng)生態(tài)構(gòu)建是Arm的當(dāng)務(wù)之急，不管是與軟硬件合作伙伴加強(qiáng)合作，還是制定規(guī)范。在前兩年發(fā)布Neoverse之時(shí)，Arm還發(fā)布了ServerReady合規(guī)認(rèn)證計(jì)劃，幫助用戶做Arm服務(wù)器系統(tǒng)的安全、合規(guī)部署。

　　Neoverse N2與V1的發(fā)布

　　GTC大會(huì)上，英偉達(dá)表示Grace CPU會(huì)采用新一代的Neoverse架構(gòu)，但沒說具體是什么架構(gòu)。按照計(jì)劃表，去年9月份，Arm發(fā)布了新一代的Neoverse架構(gòu)。除了N1迭代N2，這次新加了一個(gè)V系列：代號(hào)Zeus的Neoverse V1。

　　Neoverse V1是基于Cortex X1的性能向微架構(gòu)。和Cortex X1一樣，在PPA三者的指針上，Neoverse V1也更偏向性能，部分犧牲了功耗和面積。所以其設(shè)計(jì)方向和N系列是存在差別的。因此V1有著更大的cache、核心結(jié)構(gòu)。Arm的數(shù)據(jù)提到，V1相比N1有著50%的IPC提升，在這個(gè)時(shí)代下還是相當(dāng)巨量的，實(shí)際產(chǎn)品提頻過后要在每核性能上擊敗x86應(yīng)該已經(jīng)不是問題了。

　　另外V1會(huì)成為首個(gè)支持SVE（Scalable Vector Extension）的Arm核心。此前富士通的A64FX已經(jīng)率先做出這方面的支持，V1的SIMD單元寬度是A64FX的一半。除此之外，V1也引入了Bfloat16格式支持。

　　而N1迭代款的N2則持續(xù)專注于PPA均衡發(fā)展，與Neoverse N2對(duì)應(yīng)的Cortex家族微架構(gòu)還未發(fā)布，N2代號(hào)為Perseus。據(jù)說去年年底Arm就開始做N2架構(gòu)的授權(quán)了。N2的目標(biāo)設(shè)計(jì)最高攝心術(shù)已經(jīng)達(dá)到了192W，且TDP增至350W。這應(yīng)該是也是堆料的突破，英偉達(dá)的Grace CPU是極有可能應(yīng)用N2這個(gè)方案的。

　　AnandTech猜測(cè)，Neoverse N2可能會(huì)應(yīng)用ARMv9指令集+SVE2支持。另外，原本規(guī)劃中今年要推出的代號(hào)為Poseidon的5nm芯片預(yù)計(jì)會(huì)延后至明年。如今Neoverse的規(guī)劃已經(jīng)在有序推進(jìn)了。即便沒有英偉達(dá)，Arm玩轉(zhuǎn)數(shù)據(jù)中心市場(chǎng)似乎也是早有預(yù)謀的，而英偉達(dá)顯然會(huì)成為這一行動(dòng)的助推器。