2022年3月3日,中國(guó)北京—— Graphcore? 今日正式發(fā)布全新IPU系統(tǒng)產(chǎn)品——Bow系列。Bow Pod系統(tǒng)產(chǎn)品采用了全球首款3D Wafer-on-Wafer處理器——Bow IPU。Bow IPU是新一代Bow Pod AI計(jì)算機(jī)系統(tǒng)的核心。與上代產(chǎn)品相比,它可為真實(shí)世界的AI應(yīng)用提供高達(dá)40%的性能提升和16%的電源效率提升,同時(shí)價(jià)格保持不變,且無(wú)需更改現(xiàn)有代碼。Bow的命名來(lái)源于倫敦市的一處地名。
Bow IPU處理器
Bow-2000 計(jì)算刀片
同時(shí),Graphcore將于2024年交付全球首臺(tái)超級(jí)智能計(jì)算機(jī)—— Good ? Computer(古德計(jì)算機(jī))。Graphcore正在開(kāi)發(fā)新一代IPU技術(shù),為這款Good? Computer提供超過(guò)10 Exa-Flops的AI浮點(diǎn)計(jì)算;最高可達(dá)4PB的存儲(chǔ),帶寬超過(guò)10PB/秒;支持超過(guò)500萬(wàn)億參數(shù)的AI模型;3D Wafer-on-Wafer邏輯棧;同時(shí)獲得Poplar? SDK的完全支持。該計(jì)算機(jī)預(yù)計(jì)價(jià)格在100萬(wàn)美元至1.5億美元(取決于配置)。這款超未來(lái)的智能計(jì)算機(jī)之所以被命名為Good,一方面是Graphcore致力于打造“好”的計(jì)算機(jī),一方面是向計(jì)算機(jī)科學(xué)家先驅(qū)Jack Good(杰克·古德)致敬。
Graphcore大中華區(qū)總裁兼全球首席營(yíng)收官盧濤表示:“隨著AI計(jì)算市場(chǎng)的整體快速發(fā)展,客戶(hù)需要兼顧性能、效率和可靠性的計(jì)算機(jī)系統(tǒng)。我們發(fā)布新一代IPU,正是為了支持全球技術(shù)開(kāi)發(fā)者和創(chuàng)新者在AI計(jì)算領(lǐng)域取得新的技術(shù)突破,實(shí)現(xiàn)高質(zhì)量發(fā)展。我們希望不斷開(kāi)拓IPU在中國(guó)的AI應(yīng)用場(chǎng)景,通過(guò)IPU賦能高效AI計(jì)算,支持中國(guó)創(chuàng)新者不斷推進(jìn)機(jī)器智能的邊界?!?br/>
Bow Pod的出色性能
旗艦產(chǎn)品Bow Pod256提供超過(guò)89 PetaFLOPS的AI計(jì)算,而超大規(guī)模Bow Pod1024可提供350 PetaFLOPS的AI計(jì)算,支持機(jī)器學(xué)習(xí)工程師在AI模型規(guī)模呈指數(shù)增長(zhǎng)的情況下仍可領(lǐng)先一步,在機(jī)器智能領(lǐng)域取得新的技術(shù)突破。
Bow Pod旨在為各種AI應(yīng)用大規(guī)模提供真實(shí)世界的性能,從用于自然語(yǔ)言處理的GPT和BERT到用于計(jì)算機(jī)視覺(jué)的EfficientNet和ResNet,再到圖神經(jīng)網(wǎng)絡(luò)和許多其他應(yīng)用。
·在與配有Bow Pod系統(tǒng)的Mk2 IPU-Pod系統(tǒng)相同的峰值功率范圍內(nèi),客戶(hù)發(fā)現(xiàn)各種AI應(yīng)用的性能提升高達(dá)40%。
·對(duì)于最先進(jìn)的計(jì)算機(jī)視覺(jué)模型EfficientNet,Bow Pod16性能比同類(lèi)Nvidia DGX A100系統(tǒng)提升5倍以上,而價(jià)格只有一半,因而總體擁有成本提升高達(dá)10倍。
·與上代產(chǎn)品相比,除了40%的性能提升,Bow Pod系統(tǒng)還可以大幅提高電源效率。經(jīng)過(guò)一系列實(shí)際應(yīng)用測(cè)試表明,Bow Pod的每瓦性能最高可提升16%。
Wafer-on-Wafer創(chuàng)新技術(shù)
Bow Pod系統(tǒng)核心的Bow IPU處理器采用了全球首項(xiàng)3D半導(dǎo)體技術(shù),從而支持Bow Pod 系統(tǒng)實(shí)現(xiàn)了巨大的性能提升和更高的電源效率。Wafer-on-Wafer 3D技術(shù)由Graphcore與臺(tái)積電合作開(kāi)發(fā)。Wafer-on-Wafer技術(shù)有潛力在硅片之間提供更高的帶寬,從而優(yōu)化電源效率,在晶圓級(jí)別提升Colossus架構(gòu)的功率。
Bow IPU中的Wafer-on-Wafer,兩個(gè)晶圓結(jié)合在一起,產(chǎn)生一個(gè)新的3D裸片。其中一個(gè)晶圓用于AI處理,在架構(gòu)上與GC200 IPU處理器兼容,擁有1472個(gè)獨(dú)立的IPU-Core tile,能夠運(yùn)行超過(guò)8800個(gè)線程,具有900MB的處理器內(nèi)存儲(chǔ),而第二個(gè)晶圓擁有供電裸片。
通過(guò)在供電裸片中添加深溝槽電容器,位置在處理內(nèi)核和存儲(chǔ)旁,我們能夠更高效地供電,從而實(shí)現(xiàn)350 TeraFLOPS的AI計(jì)算,實(shí)現(xiàn)40%的性能提升。通過(guò)與臺(tái)積電緊密合作,我們充分驗(yàn)證了整套技術(shù),包括背面硅通孔(BTSV)和Wafer-on-Wafer(WoW)混合鍵合中的多項(xiàng)突破性技術(shù)。
作為Bow Pod系統(tǒng)的組成部分,最新Bow-2000 IPU Machine采用了與第二代IPU-M2000 machine同樣強(qiáng)大的系統(tǒng)架構(gòu),但現(xiàn)在配備了四個(gè)強(qiáng)大的Bow IPU處理器,可提供1.4 PetaFLOPS的AI計(jì)算。
Bow-2000可以完全向后兼容現(xiàn)有的IPU-POD系統(tǒng),其高速、低時(shí)延的IPU結(jié)構(gòu)和靈活的1U外形尺寸保持不變。Bow-2000是整個(gè)Bow Pod系列的基礎(chǔ)組成部分。Bow-2000可安裝在戴爾、Atos、Supermicro、浪潮和聯(lián)想等領(lǐng)先品牌的主機(jī)服務(wù)器上,從而組成Bow Pod系統(tǒng)。整個(gè)Bow Pod系列包括Bow Pod16(4臺(tái)Bow-2000和一臺(tái)主機(jī)服務(wù)器)、Bow Pod32(8臺(tái)Bow-2000和一臺(tái)主機(jī)服務(wù)器)、Bow Pod64以及更大的旗艦系統(tǒng)Bow Pod256和Bow Pod1024。
最新Bow Pod系統(tǒng)現(xiàn)已上市,并開(kāi)始在全球范圍內(nèi)發(fā)貨。