英特爾表示,數(shù)據(jù)中心芯片庫存消化時間遠比PC更長,整個數(shù)據(jù)中心業(yè)務(wù)將延宕復蘇。日前,更傳出英特爾一批數(shù)據(jù)中心服務(wù)器CPU以40~50%折扣出售,最后由騰訊、阿里等大客戶出手“救援”。
同樣身處數(shù)據(jù)中心巨頭的英特爾與英偉達,對于服務(wù)器的需求感受是冰火二重天,反映出傳統(tǒng)的通用服務(wù)器需求持續(xù)低迷,對比需求熱絡(luò)的AI服務(wù)器宛若兩個世界。
當AI教主黃仁勛布道:你買越多,你節(jié)省越多(The more you buy, the more you save.)但也意味著當你買越多的AI服務(wù)器芯片,需要的通用服務(wù)器芯片就會越少。
在數(shù)據(jù)中心領(lǐng)域,英偉達GPU生意越好,英特爾、AMD的CPU生意就會越暗淡,因此英特爾再度示警數(shù)據(jù)中心芯片庫存嚴重,知名分析師陸行之一語道破:英特爾在數(shù)據(jù)中心領(lǐng)域早已不再有話語權(quán),因為預(yù)算排擠效應(yīng),每賣一臺AI服務(wù)器,就會少賣好幾臺通用服務(wù)器。
為什么在AI數(shù)據(jù)中心里,使用GPU會勝過使用CPU?
如果只是單看采用GPU的AI服務(wù)器,會覺得該系統(tǒng)單價非常昂貴,買越多真的能省越多嗎? 其實仔細計算,舉例由960個CPU處理器組成的AI服務(wù)器價格1,000萬美元,電力消耗為11GWh,可提供1倍的大型語言模型LLM處理性能,然而由172組GPU組成的AI服務(wù)器的價格雖然高達3400萬美元,但是它能在同樣消耗11GWh電力的前提下,提供150倍效能,算下來只需要幾百臺NVIDIA DGX系統(tǒng),就可以取代采用CPU的上萬臺服務(wù)器。這不就應(yīng)驗了黃仁勛說的“買越多,省越多”。
黃仁勛在今年2023 COMPUTEX演講中即提到,PC產(chǎn)業(yè)正同時經(jīng)歷“加速運算”和“生成式AI”兩大轉(zhuǎn)變,CPU時代已經(jīng)結(jié)束,產(chǎn)業(yè)需要一個更快的計算模式,即是GPU。以往PC、服務(wù)器中最重要的零組件為CPU,但隨著需要大量計算能力的AI應(yīng)用出現(xiàn)后,GPU將成為主角,CPU淪為配角。目前最先進的系統(tǒng)是采用8個GPU配1個CPU的配置,以發(fā)揮最高的計算能力。
另一個數(shù)據(jù)中心CPU和GPU感受兩極化的原因:GPU產(chǎn)能因為CoWoS封裝產(chǎn)能不足而受限,大家買不到足夠GPU后來變成重復下單。
某客戶本來只需要50顆GPU,因為買不到足夠數(shù)量只好到處下訂,最后延伸出200顆GPU的需求量,即使最后訂單砍單一半,供需還是有缺口。這也是為什么黃仁勛一直說GPU需求真的很強很強,因為客戶都怕缺貨,實際下單的數(shù)量都早已超過實際需求不知道幾倍。
反觀通用服務(wù)器,因為全球經(jīng)濟景氣不佳,消費力轉(zhuǎn)趨保守,服務(wù)器客戶對于新建的資本支紛紛縮手,轉(zhuǎn)而傾向優(yōu)化現(xiàn)有設(shè)備,或是用軟件更新等各種方式來延長使用壽命和資源重新分配,釋放更大性能,因此通用服務(wù)器芯片供應(yīng)商當然會感受到無盡寒意。
不過,AI服務(wù)器和通用服務(wù)器的兩極化現(xiàn)象也不會無止境的擴大下去,因為AI服務(wù)器還是要建立在既有的基礎(chǔ)架構(gòu)和終端設(shè)備之上,GPU侵蝕很大部分的CPU使用量,但不能全然取代CPU。
短期內(nèi),生成式AI帶來很多新應(yīng)用和海量信息需求,大家趕著布建AI服務(wù)器,因此瘋狂下單GPU,等到AI服務(wù)器的需求布建到一定程度,最后還是會回過頭來布建通用服務(wù)器。長期來看,AI服務(wù)器的氣勢如虹,終究會帶動通用服務(wù)器需求脫離谷底才對。
近期,傳出ChatGPT有退潮跡象,微軟砍單Nvidia H100芯片的消息。加上英偉達股價自高點跌落,華爾街在英偉達股價上的多、空兩派將交戰(zhàn)太過激烈,繪聲繪影指出英偉達塞貨給另一家AI新創(chuàng)公司Coreweave虛灌營收的夸張不實傳言,多多少少顯示AI過熱下的發(fā)展在資本市場上開始有扭曲的跡象。
回頭來看英特爾的數(shù)據(jù)中心業(yè)務(wù),除了服務(wù)器CPU,英特爾也是有布局AI領(lǐng)域,2019年并購以色列AI新創(chuàng)公司Habana Labs,推出AI加速器芯片Gaudi 2,采用7nm制程技術(shù),試圖挑戰(zhàn)Nvidia H100,更推進新一代的Gaudi 3產(chǎn)品線問世,采用5nm制程。
根據(jù)市調(diào)機構(gòu)統(tǒng)計,目前在AI服務(wù)器領(lǐng)域,英偉達市占率有60~70%,其次是云端業(yè)者自行開發(fā)的ASIC芯片。一般而言,大型的云服務(wù)提供商CSP除了采購英偉達的GPU,像是Google、AWS也都有自己開ASIC的解決方案。同時也可觀察到,英偉達在AI服務(wù)器高達70%的市占率,難怪英特爾、AMD等處理器大廠都加速推出相關(guān)AI產(chǎn)品來分一杯羹的急迫心態(tài)。
更多精彩內(nèi)容歡迎點擊==>>電子技術(shù)應(yīng)用-AET<<