英偉達在數(shù)據(jù)中心的“帶貨能力”不是一般的強。
2020年4月,英偉達宣布完成對以色列網(wǎng)絡芯片商Mellanox高達69億美元的收購交易,將DPU芯片推至半導體領域的焦點。半年后,英偉達就推出這筆收購所帶來的最新成果——新一代DPU。
DPU,全名Data Processing Units(數(shù)據(jù)處理單元),被英偉達創(chuàng)始人黃仁勛稱作與CPU、GPU共同組成“未來計算三大支柱”。這個新型計算單元宛如數(shù)據(jù)中心的一匹黑馬,一時間變得炙手可熱,并在國內(nèi)外均掀起新一波投資熱潮。
僅在今年,國內(nèi)DPU創(chuàng)企中科馭數(shù)、星云智聯(lián)、大禹智芯、芯啟源、云豹智能等均宣布完成新融資,其中有多筆融資金額達數(shù)億元人民幣。
在國外,明星DPU創(chuàng)企Pensando、Fungible已經(jīng)是“吸金”能力超強的數(shù)據(jù)中心新寵,Marvell創(chuàng)始人戴偉立、周秀文夫婦亦在2019年創(chuàng)立DPU新公司Dream Big Semiconductor。英特爾、Marvell、博通等芯片巨頭更是早早押寶。
這個日漸走紅的新賽道,真有能與CPU、GPU分食數(shù)據(jù)中心計算市場的潛力嗎?
▲2021年公布新融資的國內(nèi)DPU初創(chuàng)公司
01.
做CPU做不好、GPU做不了的計算任務
“每臺服務器可能沒有GPU,但絕對有DPU,好比每臺服務器都必須配網(wǎng)卡一樣。”中科馭數(shù)創(chuàng)始人兼CEO鄢貴海非??春肈PU的未來,并認為DPU的出現(xiàn)是異構計算的一個階段性標志。
近年來隨著海量數(shù)據(jù)爆發(fā),計算任務愈發(fā)密集,傳統(tǒng)以CPU為中心的數(shù)據(jù)中心架構日漸面臨性能提升的瓶頸,由CPU大包大攬各種計算和管控任務,逐漸演變?yōu)槎囝惍悩嬎懔Y源各司其職。
英偉達創(chuàng)始人兼CEO黃仁勛曾解釋說,現(xiàn)代數(shù)據(jù)中心由軟件定義,運行數(shù)據(jù)中心的傳統(tǒng)基礎設施需消耗20-30%的CPU核心資源,而DPU即是專為CPU“減負”的一種新型專用處理器。
▲CPU主頻算力相對網(wǎng)絡數(shù)據(jù)傳輸速率升級的差距(來源:頭豹研究院)
DPU主要承擔起網(wǎng)絡、存儲和安全的加速處理任務,旨在滿足網(wǎng)絡側專用計算需求,尤其適用于服務器量多、對數(shù)據(jù)傳輸速率要求嚴苛的場景。
它將CPU所不擅長的網(wǎng)絡協(xié)議處理、數(shù)據(jù)加解密、數(shù)據(jù)壓縮等數(shù)據(jù)處理任務通通接手,通過處理器和網(wǎng)卡的組合,兼顧傳輸和計算的需求。DPU也被看作是智能網(wǎng)卡(SmartNIC)技術的演化增強版本。
如今數(shù)據(jù)中心倡導以資源池的形式來做,各類資源分別管理、擴容,而DPU宛如一個連接樞紐,可以起到中心調(diào)度管理的作用,一端連接各種CPU、GPU、SSD、FPGA加速卡等本地資源,一端連接交換機/路由器等網(wǎng)絡資源。
“大家認為,可能在未來的數(shù)據(jù)中心云端架構上,DPU取代了CPU,成為一個最關鍵的、最核心的芯片地位?!卑雽w行業(yè)知名投資人、華登國際合伙人王林說,如果將整個數(shù)據(jù)中心看成一整個大的服務,DPU就相當于這個大服務器里的CPU。
總體而言,DPU不僅能提高網(wǎng)絡傳輸效率,而且釋放了CPU算力資源,從而帶動整體數(shù)據(jù)中心的降本增效。
02.
云計算剛需,巨頭齊上陣
對于云計算廠商及大型互聯(lián)網(wǎng)企業(yè),采購DPU產(chǎn)品已是必然走向。往前追溯,國內(nèi)外頭部云計算廠商均已率先嘗試類似的思路。
早在2013年,亞馬遜云科技(AWS)就開始研究如何將網(wǎng)絡、存儲等之前由CPU處理的任務卸載到NIC卡上,隨后收購以色列芯片商Annapurna Labs,并在2017年發(fā)布典型產(chǎn)品AWS Nitro。
AWS的這一嘗試,不僅釋放CPU的算力資源,也降低了數(shù)據(jù)中心成本。國內(nèi)阿里云亦在其神龍服務器核心組件MOC卡中應用了專用X-Dragon芯片,統(tǒng)一支持網(wǎng)絡、I/O、存儲和外設的虛擬化。
過去數(shù)年間,博通、Mellanox、賽靈思、英特爾等芯片公司均推出自家DPU產(chǎn)品,除了加強其對于網(wǎng)絡協(xié)議和網(wǎng)絡安全的處理能力外,也陸續(xù)在網(wǎng)絡、存儲和計算方面均分別展現(xiàn)出許多優(yōu)勢。
與GPU不同的是,DPU面向的應用更加底層,類型更多樣,沖在DPU前排的各家廠商在具體功能側重上也各不相同,大體差別如下:
▲國外DPU主要廠商對比
在收購Mellanox后,英偉達進一步增強其DPU與GPU能力的組合,并在去年亮出新路線圖,號稱要將DPU性能三年提升1000倍。明年英偉達將發(fā)布加持AI能力的BlueField-3X DPU。
▲英偉達BlueField DPU三年路線圖
今年英特爾、Marvell等芯片巨頭繼續(xù)加碼DPU。
6月,英特爾發(fā)布了可編程網(wǎng)絡設備IPU(Infrastructure Processing Unit,基礎設施處理器),用于擴展智能網(wǎng)卡功能,加速存儲虛擬化、網(wǎng)絡虛擬化和安全等功能,并釋放CPU核心。其首個基于FPGA的IPU平臺已為多個云服務提供商完成部署,首款ASIC IPU也正在測試中。
7月,Marvell推出采用臺積電5nm制程工藝的OCTEON 10系列DPU,首用Arm Neoverse N2 CPU核心,并集成了機器學習推理引擎。首批OCTEON 10產(chǎn)品預計將于今年年底前出樣,據(jù)稱相比前一代標量處理引擎,它能將數(shù)據(jù)包的處理吞吐量大幅提升至5倍。
▲Marvell OCTEON 10架構
由于DPU處于發(fā)展初期,業(yè)界尚未形成統(tǒng)一標準,也還沒有形成足夠的規(guī)模部署,這為國內(nèi)DPU創(chuàng)企帶來了發(fā)展良機。
03.
市場規(guī)模將達百億量級
國內(nèi)DPU創(chuàng)企成資本寵兒
在今年南京世界半導體大會期間的SoC設計技術論壇上,半導體行業(yè)知名投資人、華登國際合伙人王林提到DPU是今年SoC創(chuàng)業(yè)最火的概念,從去年開始苗頭慢慢起來。
根據(jù)Canalys Cloud Channels Analysis預測,到2023年,中國DPU市場規(guī)模將達190億人民幣。另據(jù)頭豹研究院預測,中國DPU市場規(guī)模預計將在2025年超過37億美元(約合240億人民幣)。
▲到2025年,中國DPU市場規(guī)模預測(來源:頭豹研究院)
目前中國DPU產(chǎn)品主要由英偉達、英特爾、博通等國際芯片巨頭供應,同時中科馭數(shù)、大禹智芯、芯啟源、益思芯、星云智聯(lián)、云豹智能等國內(nèi)DPU創(chuàng)企正組成推動DPU國產(chǎn)替代的生力軍。
▲國內(nèi)主要DPU初創(chuàng)公司
從創(chuàng)立時間來看,國內(nèi)DPU代表創(chuàng)企集中創(chuàng)辦于過去六年間,成立時間最早的是芯啟源。大禹智芯、益思芯、云豹智能集中在2020年6-8月創(chuàng)立,星云智聯(lián)則是今年3月剛成立。
中科馭數(shù)從中科院孵化而出,成立于2018年4月。基于其自研KPU(Kernel Processing Unit)芯片架構,中科馭數(shù)在2019年10月實現(xiàn)業(yè)界首顆數(shù)據(jù)庫與時序數(shù)據(jù)處理融合加速芯片的成功流片,并于2020年5月發(fā)布基于KPU架構的領域?qū)S眉铀倏óa(chǎn)品。
目前,中科馭數(shù)已與中泰證券、華泰證券、中信建投、金證股份、上交所技術等多家金融機構達成合作。除了金融計算領域,其DPU產(chǎn)品未來還可以廣泛應用于數(shù)據(jù)中心、電信、物聯(lián)網(wǎng)、互聯(lián)網(wǎng)、混合云等其他領域。
▲中科馭數(shù)DPU芯片產(chǎn)品路線
同樣總部位于北京的大禹智芯,成立于2020年6月,在成立之初就獲得天使輪融資,由中科創(chuàng)星和惟一資本聯(lián)合投資;今年7月宣布完成數(shù)千萬元Pre-A輪融資,由華義創(chuàng)投和奇績創(chuàng)壇投資。
大禹智芯創(chuàng)始人、CEO李爽曾任美團云總經(jīng)理、阿里巴巴網(wǎng)絡技術總監(jiān)、百度系統(tǒng)技術委員會主席,曾主導參與云計算戰(zhàn)略和互聯(lián)網(wǎng)巨頭技術平臺搭建,并曾領導開發(fā)中國第一代高性能網(wǎng)關,為中國云計算時代奠定硬件基礎,有多年網(wǎng)絡設備、服務器、處理器定制及異構平臺研發(fā)經(jīng)驗。
據(jù)悉,大禹智芯團隊成員來自阿里云、谷歌云,曾親自領導實現(xiàn)過云平臺和DPU,具有完整的DPU經(jīng)驗。其第一代智能網(wǎng)卡大禹DPU系列產(chǎn)品Paratus 1.0號稱是是國內(nèi)首款處理能力達25G的商用化DPU產(chǎn)品,已進入生產(chǎn)階段,預計今年第三季度出貨。該公司已開始研發(fā)100G的產(chǎn)品。
上海芯啟源創(chuàng)立于2015年,今年接連完成數(shù)億元Pre-A2、Pre-A3輪融資。目前芯啟源聚焦在5G云數(shù)據(jù)中心和高端EDA領域,擁有兩大板塊核心產(chǎn)品:智能網(wǎng)卡、SoC原型和仿真系統(tǒng)MIMIC。
芯啟源創(chuàng)始人盧笙本科畢業(yè)于上海交通大學,后獲美國Lamar University碩士學位,曾先后在博通、Marvell、ArtX等公司擔任重要崗位,其核心團隊已在芯片領域積累了20多年研發(fā)管理經(jīng)驗。
據(jù)悉,芯啟源智能網(wǎng)卡是目前國內(nèi)唯一的基于SoC架構的成熟DPU完整解決方案,擁有自主知識產(chǎn)權,目前已成熟量產(chǎn),并獲得了中國移動蘇研院的首批智能網(wǎng)卡訂單。
▲芯啟源智能網(wǎng)卡
上海益思芯科技2020年7月在上海成立,其創(chuàng)始人、董事長兼CEO黃益人作為半導體芯片行業(yè)專家、DPU智能網(wǎng)卡行業(yè)帶頭人。據(jù)悉,益思芯科技的技術團隊由國內(nèi)外網(wǎng)絡、交換、存儲領域的核心專業(yè)人員、研發(fā)人員組成,在網(wǎng)絡、交換、存儲及高性能CPU等領域具有深厚的技術實力。
今年7月,益思芯科技宣布已交付國內(nèi)第一款自主研發(fā)的商用云原生智能網(wǎng)卡Stargate-F1000-SN,整卡功耗30W~40W。
▲益思芯科技Stargate-F1000-SN智能網(wǎng)卡
深圳云豹智能由原RMI公司 (后被Netlogic/博通收購)聯(lián)合創(chuàng)始人Sunny Siu蕭啟陽博士聯(lián)合業(yè)界精英創(chuàng)立,其核心團隊來自博通、英特爾、Arm、海思、阿里巴巴等國內(nèi)外知名公司。
根據(jù)官網(wǎng)信息,騰訊、紅杉資本、正心谷資本、耀途資本、中芯聚源、ACE Equity Partners、華業(yè)天成、OBN CAPITAL均為云豹智能投資方。
在創(chuàng)立云豹智能前,蕭啟陽曾任博通處理器和無線基礎設施事業(yè)部大中華區(qū)總經(jīng)理、NetLogic公司亞太區(qū)總裁兼總經(jīng)理(2012年被博通以37億美元收購)、RMI公司(被NetLogic公司收購)聯(lián)合創(chuàng)始人兼亞太區(qū)總裁。
珠海星云智聯(lián)成立于今年3月,4月宣布完成數(shù)億元天使輪融資,7月完成數(shù)億元Pre-A輪融資。
據(jù)悉,星云智聯(lián)的團隊曾成功實現(xiàn)了多領域通信與網(wǎng)絡芯片開發(fā),核心成員都參與了網(wǎng)絡大芯片從0到1探索、發(fā)展、優(yōu)化、超越的全過程,具備全系統(tǒng)、長周期工程開發(fā)經(jīng)驗,擁有對云計算、互聯(lián)網(wǎng)、運營商等多場景的深度理解,以及設計滿足不同市場需求產(chǎn)品的能力。
星云智聯(lián)正在研發(fā)的DPU將在IAAS和PAAS之間形成獨立的CAAS(通信服務層),實現(xiàn)物理資源的“多虛一”和近乎裸金屬性能的“一虛多”,簡化IAAS,提升資源利用率;卸載PAAS中與通信數(shù)據(jù)流相關的處理,提升應用的通信效率和性能。
其他一些國內(nèi)創(chuàng)企主研產(chǎn)品也可劃分至DPU范疇,但因其官網(wǎng)沒有明確提及與DPU的關聯(lián),因此未記入這篇文章中,歡迎讀者在評論區(qū)補充更多正在研發(fā)DPU的國內(nèi)公司。
04.
結語:DPU創(chuàng)業(yè)大幕剛剛拉開
作為新型數(shù)據(jù)中心最重要的芯片之一,DPU正加速發(fā)展。在星云智聯(lián)CEO于勇看來,未來十年,全球云計算和數(shù)據(jù)中心基礎架構將迎來顛覆性變革,基于DPU的統(tǒng)一通信服務平臺(CAAS)是這個未來架構的核心引擎。
從目前全球DPU產(chǎn)業(yè)格局來看,產(chǎn)品應用仍相對分散,盡管國際巨頭占據(jù)技術和市場優(yōu)勢,但國內(nèi)外的代際之差并非難以逾越。所幸國內(nèi)多家企業(yè)已經(jīng)在探索商業(yè)化落地的道路上。
對于接下來的發(fā)展,大禹智芯CEO李爽判斷,DPU需要朝兩個方向努力:一是提高虛擬化效率,二是提升流動數(shù)據(jù)的吞吐能力,以助力數(shù)據(jù)中心網(wǎng)絡跨入100G目標。
雖然無論是實現(xiàn)核心技術轉(zhuǎn)化為主營收入,還是讓DPU這個新興概念被更多客戶所接受,都尚需時日,但在產(chǎn)業(yè)鏈上下游廠商的共同努力下,相信未來會有更多公司投入這一新興賽道,共同推動國內(nèi)DPU生態(tài)走向繁榮。