美光 MRDIMM 創(chuàng)新技術(shù)打造最高性能、低延遲主存,為數(shù)據(jù)中心工作負(fù)載加速
2024-07-24
來(lái)源:美光科技股份有限公司
2024 年 7 月 18 日,中國(guó)上海 — 美光科技股份有限公司(納斯達(dá)克股票代碼:MU)近日宣布,已出樣多路復(fù)用雙列直插式內(nèi)存模塊(MRDIMM)。該款 MRDIMM 將賦能美光客戶應(yīng)對(duì)日益繁重的工作負(fù)載,從而最大化計(jì)算基礎(chǔ)設(shè)施的價(jià)值。對(duì)于需要每個(gè) DIMM 插槽內(nèi)存超過(guò) 128GB 的應(yīng)用,美光 MRDIMM 提供最高帶寬、最大容量、最低延遲以及更高的每瓦性能,在加速內(nèi)存密集型虛擬化多租戶、高性能計(jì)算和 AI 數(shù)據(jù)中心工作負(fù)載方面,表現(xiàn)優(yōu)于當(dāng)前的 TSV RDIMM。1 該款全新內(nèi)存產(chǎn)品為美光 MRDIMM 系列的首代,將與英特爾? 至強(qiáng)? 6 處理器兼容。
美光副總裁暨計(jì)算產(chǎn)品事業(yè)群總經(jīng)理 Praveen Vaidyanathan 表示:“美光最新的創(chuàng)新主存解決方案 MRDIMM 為下一代服務(wù)器平臺(tái)提供了亟需的帶寬和容量,并降低了延遲,旨在擴(kuò)展 AI 推理和高性能計(jì)算應(yīng)用。MRDIMM 在提供與 RDIMM 相同的可靠性、可用性、適用性和接口的同時(shí),顯著降低了每項(xiàng)任務(wù)的能耗,為客戶帶來(lái)了性能可擴(kuò)展的靈活解決方案。美光與業(yè)界的緊密合作,確保該解決方案能與現(xiàn)有服務(wù)器基礎(chǔ)設(shè)施無(wú)縫集成,并順利過(guò)渡到未來(lái)的計(jì)算平臺(tái)?!?/p>
通過(guò)實(shí)施 DDR5 的物理和電氣標(biāo)準(zhǔn),MRDIMM 實(shí)現(xiàn)了內(nèi)存技術(shù)的突破,使單核心的帶寬和容量得以擴(kuò)展,為未來(lái)的計(jì)算系統(tǒng)提供堅(jiān)實(shí)保障,并能滿足數(shù)據(jù)中心工作負(fù)載日益增長(zhǎng)的需求。與 RDIMM 相比,MRDIMM 具有以下優(yōu)勢(shì):2
·有效內(nèi)存帶寬提升高達(dá) 39%2
·總線效率提升超過(guò) 15%2
·與 RDIMM 相比,延遲降低高達(dá) 40%3
MRDIMM 支持從 32GB 到 256GB 廣泛的容量選擇,涵蓋標(biāo)準(zhǔn)型和高型外形規(guī)格(TFF),適用于高性能的 1U 和 2U 服務(wù)器。得益于 TFF 模塊優(yōu)化的散熱設(shè)計(jì),在同等功耗和氣流條件下,DRAM 溫度可降低高達(dá) 20 攝氏度,4為數(shù)據(jù)中心帶來(lái)更高效的散熱,并優(yōu)化內(nèi)存密集型工作負(fù)載的總系統(tǒng)任務(wù)能耗。美光憑借業(yè)界領(lǐng)先的內(nèi)存設(shè)計(jì)和制程技術(shù),在 256GB TFF MRDIMM 上采用 32Gb DRAM 芯片,實(shí)現(xiàn)了與采用 16Gb 芯片的 128GB TFF MRDIMM 相同的功耗表現(xiàn)。在最大數(shù)據(jù)傳輸速率下,256GB TFF MRDIMM 的性能比相同容量的 TSV RDIMM 提升 35%。5與 TSV RDIMM 相比,使用 256GB TFF MRDIMM,數(shù)據(jù)中心可以獲得前所未有的總體擁有成本(TCO)優(yōu)勢(shì)。
英特爾副總裁兼數(shù)據(jù)中心至強(qiáng) 6 產(chǎn)品管理總經(jīng)理 Matt Langman 表示:“借助 DDR5 接口和技術(shù),MRDIMM 實(shí)現(xiàn)了與現(xiàn)有英特爾? 至強(qiáng)? 6 處理器平臺(tái)的無(wú)縫兼容,為客戶帶來(lái)了更高的靈活性和更多選擇。MRDIMM 為客戶提供全面的選項(xiàng),包括更高的帶寬、更低的延遲以及多樣的容量規(guī)格,適用于高性能計(jì)算、AI 及多種工作負(fù)載,且這一切均在同一支持標(biāo)準(zhǔn) DIMM 的英特爾? 至強(qiáng)? 6 處理器平臺(tái)上實(shí)現(xiàn)。我們的客戶將從美光廣泛的 MRDIMM 產(chǎn)品組合中受益,這些產(chǎn)品涵蓋從 32GB 到 256GB 的不同容量,包括標(biāo)準(zhǔn)和高型兩種外形規(guī)格,并將與英特爾? 至強(qiáng)? 6 平臺(tái)進(jìn)行驗(yàn)證?!?/p>
聯(lián)想集團(tuán)副總裁兼人工智能和高性能計(jì)算總經(jīng)理 Scott Tease 表示:“隨著處理器和 GPU 供應(yīng)商提供的產(chǎn)品核心數(shù)呈指數(shù)級(jí)增長(zhǎng),所需的內(nèi)存帶寬卻未能跟上這一趨勢(shì),以滿足系統(tǒng)性能平衡的需求。針對(duì)內(nèi)存密集型任務(wù),如 AI 推理、AI 再訓(xùn)練以及眾多高性能計(jì)算工作負(fù)載,美光 MRDIMM 將助力縮小帶寬差距。我們與美光的合作愈發(fā)緊密,致力于為我們共同的客戶提供平衡、高性能、可持續(xù)的技術(shù)解決方案?!?/p>
美光 MRDIMM 現(xiàn)已開售,并將于 2024 年下半年批量出貨。后續(xù)幾代 MRDIMM 產(chǎn)品將繼續(xù)提供比同代 RDIMM 高 45% 的單通道內(nèi)存帶寬。6
1基于 GNR-AP 平臺(tái),使用英特爾 Memory Latency Checker(MLC)工具,針對(duì) MRDIMM(經(jīng)驗(yàn)數(shù)據(jù)為 8800MT/s)和 TSV RDIMM(預(yù)估數(shù)據(jù)為 6400MT/s)在不同內(nèi)存時(shí)鐘下的只讀帶寬數(shù)據(jù)進(jìn)行測(cè)試。
2基于英特爾 Memory Latency Checker(MLC)工具,對(duì) 128GB MRDIMM 8800MT/s 與 128GB RDIMM 6400MT/s 進(jìn)行經(jīng)驗(yàn)數(shù)據(jù)對(duì)比測(cè)試。
3基于經(jīng)驗(yàn)得出 Stream Triad 數(shù)據(jù),對(duì) 128GB MRDIMM 8800MT/s 與 128GB RDIMM 6400MT/s 進(jìn)行對(duì)比。
4最高 DRAM 溫度模擬對(duì)比:1U 服務(wù)器機(jī)箱中的標(biāo)準(zhǔn)外形規(guī)格(SFF)DIMM 與 2U 服務(wù)器機(jī)箱中的高型外形規(guī)格(TFF)MRDIMM。
5基于 GNR-AP 平臺(tái),使用英特爾 Memory Latency Checker(MLC)工具,針對(duì) MRDIMM (經(jīng)驗(yàn)數(shù)據(jù)為8800MT/s)和當(dāng)前一代 TSV RDIMM(預(yù)估數(shù)據(jù)為6400MT/s)在不同內(nèi)存時(shí)鐘下的只讀帶寬數(shù)據(jù)進(jìn)行測(cè)試。
6基于 MRDIMM 相對(duì)于 RDIMM 的預(yù)期未來(lái)速率,數(shù)據(jù)傳輸速率將有所提升。
更多精彩內(nèi)容歡迎點(diǎn)擊==>>電子技術(shù)應(yīng)用-AET<<