《電子技術應用》
您所在的位置:首頁 > 模擬設計 > 業(yè)界動態(tài) > 英偉達Blackwell高耗能推動AI服務器水冷方案發(fā)展

英偉達Blackwell高耗能推動AI服務器水冷方案發(fā)展

預估年底 AI 服務器水冷方案滲透率達 10%
2024-08-01
來源:集邦咨詢

集邦咨詢 TrendForce 昨日(7 月 30 日)發(fā)布博文,表示英偉達 Blackwell 高耗能推動散熱需求,預估到 2024 年年底水冷散熱方案滲透率將達 10%。功耗不斷攀升

英偉達 Blackwell 平臺將于 2025 年正式放量,取代既有的 Hopper 平臺、成為英偉達高端 GPU(圖形處理器)主力方案,占整體高端產(chǎn)品近 83%。

在 B200 和 GB200 等追求高效能的 AI Server 機種,單顆 GPU 功耗可達 1,000W 以上。HGX 機種每臺裝載 8 顆 GPU,NVL 機種每柜達 36 顆或 72 顆 GPU,能耗上漲將促進 AI Server 水冷散熱供應鏈的發(fā)展。

0.png

TrendForce 集邦咨詢表示,服務器芯片的熱設計功耗(Thermal Design Power, TDP)持續(xù)提高,如 B200 芯片的 TDP 將達 1000W,傳統(tǒng)風冷散熱方案不足以滿足需求;GB200 NVL36 及 NVL72 整機柜的 TDP 甚至將高達 70kW 及近 140kW,需要搭配水冷方案以有效解決散熱問題。

水冷供應鏈

GB200 NVL36 架構(gòu)初期將以風冷、水冷并行方案為主;NVL72 因有更高散熱能力需求,原則上優(yōu)先使用水冷方案。

援引報道 GB200 機柜系統(tǒng)水冷散熱供應鏈,主要包括 5大零部件:

水冷板(Cold Plate)

冷卻分配系統(tǒng)(Coolant Distribution Unit, CDU)

分歧管(Manifold)

快接頭(Quick Disconnect, QD)

風扇背門(Rear Door Heat Exchanger, RDHx)

CDU 為其中的關鍵系統(tǒng),負責調(diào)節(jié)冷卻劑的流量至整個系統(tǒng),確保機柜溫度控制在預設的 TDP 范圍內(nèi)。

TrendForce 集邦咨詢觀察,目前針對 NVIDIA AI 方案,以 Vertiv(維諦技術)為主力 CDU 供應商,奇鋐、雙鴻、臺達電和 CoolIT 等持續(xù)測試驗證中。

在 NVIDIA 大力擴展 CSPs 客群的情況下,預估 2025 年 GB200 折算 NVL36 合計出貨數(shù)量可望達 6 萬柜,而 GB200 的 Blackwell GPU 用量可望達 210-220 萬顆。


Magazine.Subscription.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。