英特爾表示,數(shù)據(jù)中心芯片庫存消化時(shí)間遠(yuǎn)比PC更長,整個(gè)數(shù)據(jù)中心業(yè)務(wù)將延宕復(fù)蘇。日前,更傳出英特爾一批數(shù)據(jù)中心服務(wù)器CPU以40~50%折扣出售,最后由騰訊、阿里等大客戶出手“救援”。
同樣身處數(shù)據(jù)中心巨頭的英特爾與英偉達(dá),對(duì)于服務(wù)器的需求感受是冰火二重天,反映出傳統(tǒng)的通用服務(wù)器需求持續(xù)低迷,對(duì)比需求熱絡(luò)的AI服務(wù)器宛若兩個(gè)世界。
當(dāng)AI教主黃仁勛布道:你買越多,你節(jié)省越多(The more you buy, the more you save.)但也意味著當(dāng)你買越多的AI服務(wù)器芯片,需要的通用服務(wù)器芯片就會(huì)越少。
在數(shù)據(jù)中心領(lǐng)域,英偉達(dá)GPU生意越好,英特爾、AMD的CPU生意就會(huì)越暗淡,因此英特爾再度示警數(shù)據(jù)中心芯片庫存嚴(yán)重,知名分析師陸行之一語道破:英特爾在數(shù)據(jù)中心領(lǐng)域早已不再有話語權(quán),因?yàn)轭A(yù)算排擠效應(yīng),每賣一臺(tái)AI服務(wù)器,就會(huì)少賣好幾臺(tái)通用服務(wù)器。
為什么在AI數(shù)據(jù)中心里,使用GPU會(huì)勝過使用CPU?
如果只是單看采用GPU的AI服務(wù)器,會(huì)覺得該系統(tǒng)單價(jià)非常昂貴,買越多真的能省越多嗎? 其實(shí)仔細(xì)計(jì)算,舉例由960個(gè)CPU處理器組成的AI服務(wù)器價(jià)格1,000萬美元,電力消耗為11GWh,可提供1倍的大型語言模型LLM處理性能,然而由172組GPU組成的AI服務(wù)器的價(jià)格雖然高達(dá)3400萬美元,但是它能在同樣消耗11GWh電力的前提下,提供150倍效能,算下來只需要幾百臺(tái)NVIDIA DGX系統(tǒng),就可以取代采用CPU的上萬臺(tái)服務(wù)器。這不就應(yīng)驗(yàn)了黃仁勛說的“買越多,省越多”。
黃仁勛在今年2023 COMPUTEX演講中即提到,PC產(chǎn)業(yè)正同時(shí)經(jīng)歷“加速運(yùn)算”和“生成式AI”兩大轉(zhuǎn)變,CPU時(shí)代已經(jīng)結(jié)束,產(chǎn)業(yè)需要一個(gè)更快的計(jì)算模式,即是GPU。以往PC、服務(wù)器中最重要的零組件為CPU,但隨著需要大量計(jì)算能力的AI應(yīng)用出現(xiàn)后,GPU將成為主角,CPU淪為配角。目前最先進(jìn)的系統(tǒng)是采用8個(gè)GPU配1個(gè)CPU的配置,以發(fā)揮最高的計(jì)算能力。
另一個(gè)數(shù)據(jù)中心CPU和GPU感受兩極化的原因:GPU產(chǎn)能因?yàn)镃oWoS封裝產(chǎn)能不足而受限,大家買不到足夠GPU后來變成重復(fù)下單。
某客戶本來只需要50顆GPU,因?yàn)橘I不到足夠數(shù)量只好到處下訂,最后延伸出200顆GPU的需求量,即使最后訂單砍單一半,供需還是有缺口。這也是為什么黃仁勛一直說GPU需求真的很強(qiáng)很強(qiáng),因?yàn)榭蛻舳寂氯必?,?shí)際下單的數(shù)量都早已超過實(shí)際需求不知道幾倍。
反觀通用服務(wù)器,因?yàn)槿蚪?jīng)濟(jì)景氣不佳,消費(fèi)力轉(zhuǎn)趨保守,服務(wù)器客戶對(duì)于新建的資本支紛紛縮手,轉(zhuǎn)而傾向優(yōu)化現(xiàn)有設(shè)備,或是用軟件更新等各種方式來延長使用壽命和資源重新分配,釋放更大性能,因此通用服務(wù)器芯片供應(yīng)商當(dāng)然會(huì)感受到無盡寒意。
不過,AI服務(wù)器和通用服務(wù)器的兩極化現(xiàn)象也不會(huì)無止境的擴(kuò)大下去,因?yàn)锳I服務(wù)器還是要建立在既有的基礎(chǔ)架構(gòu)和終端設(shè)備之上,GPU侵蝕很大部分的CPU使用量,但不能全然取代CPU。
短期內(nèi),生成式AI帶來很多新應(yīng)用和海量信息需求,大家趕著布建AI服務(wù)器,因此瘋狂下單GPU,等到AI服務(wù)器的需求布建到一定程度,最后還是會(huì)回過頭來布建通用服務(wù)器。長期來看,AI服務(wù)器的氣勢如虹,終究會(huì)帶動(dòng)通用服務(wù)器需求脫離谷底才對(duì)。
近期,傳出ChatGPT有退潮跡象,微軟砍單Nvidia H100芯片的消息。加上英偉達(dá)股價(jià)自高點(diǎn)跌落,華爾街在英偉達(dá)股價(jià)上的多、空兩派將交戰(zhàn)太過激烈,繪聲繪影指出英偉達(dá)塞貨給另一家AI新創(chuàng)公司Coreweave虛灌營收的夸張不實(shí)傳言,多多少少顯示AI過熱下的發(fā)展在資本市場上開始有扭曲的跡象。
回頭來看英特爾的數(shù)據(jù)中心業(yè)務(wù),除了服務(wù)器CPU,英特爾也是有布局AI領(lǐng)域,2019年并購以色列AI新創(chuàng)公司Habana Labs,推出AI加速器芯片Gaudi 2,采用7nm制程技術(shù),試圖挑戰(zhàn)Nvidia H100,更推進(jìn)新一代的Gaudi 3產(chǎn)品線問世,采用5nm制程。
根據(jù)市調(diào)機(jī)構(gòu)統(tǒng)計(jì),目前在AI服務(wù)器領(lǐng)域,英偉達(dá)市占率有60~70%,其次是云端業(yè)者自行開發(fā)的ASIC芯片。一般而言,大型的云服務(wù)提供商CSP除了采購英偉達(dá)的GPU,像是Google、AWS也都有自己開ASIC的解決方案。同時(shí)也可觀察到,英偉達(dá)在AI服務(wù)器高達(dá)70%的市占率,難怪英特爾、AMD等處理器大廠都加速推出相關(guān)AI產(chǎn)品來分一杯羹的急迫心態(tài)。
更多精彩內(nèi)容歡迎點(diǎn)擊==>>電子技術(shù)應(yīng)用-AET<<