2021年12月12日,中國(guó)上?!?nbsp;今天,在2021 Wave Summit+上百度深度學(xué)習(xí)平臺(tái)飛槳正式發(fā)布在Graphcore IPU上實(shí)現(xiàn)訓(xùn)練和推理全流程支持的開(kāi)源代碼庫(kù),飛槳模型庫(kù)如Bert、ERNIE等也正逐步在IPU上實(shí)現(xiàn)支持。自此,百度飛槳的開(kāi)發(fā)者可以在IPU這一專(zhuān)為機(jī)器智能從零設(shè)計(jì)的創(chuàng)新架構(gòu)上進(jìn)行AI模型加速,而IPU的全球用戶(hù)也可以使用百度飛槳框架探索深度學(xué)習(xí)。對(duì)Graphcore而言,此舉將極大地?cái)U(kuò)展IPU的中文社區(qū),中文生態(tài)系統(tǒng)進(jìn)一步繁榮。
百度飛槳是中國(guó)領(lǐng)先的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái),目前累計(jì)開(kāi)發(fā)者數(shù)量超過(guò)406萬(wàn),服務(wù)企業(yè)數(shù)量15.7萬(wàn)家,創(chuàng)建了超過(guò)47.6萬(wàn)個(gè)模型,為中國(guó)AI社區(qū)的繁榮做出巨大貢獻(xiàn)。Graphcore是飛槳硬件生態(tài)圈的初始成員之一,作為飛槳的重要硬件合作伙伴,Graphcore將通過(guò)云端和數(shù)據(jù)中心的IPU技術(shù)助力飛槳開(kāi)發(fā)者實(shí)現(xiàn)AI模型的大幅加速,同時(shí)為使用飛槳的企業(yè)提供基于IPU的產(chǎn)品方案,幫助飛槳的企業(yè)級(jí)客戶(hù)提升數(shù)據(jù)中心效率。通過(guò)大幅提升模型的性能和運(yùn)行速度,縮短研發(fā)周期,加快AI模型落地應(yīng)用,同時(shí)降低計(jì)算成本。
目前Graphcore IPU支持通過(guò)飛槳完成大規(guī)模的模型訓(xùn)練任務(wù),也支持通過(guò)飛槳推理庫(kù)執(zhí)行高性能的推理任務(wù)。雙方團(tuán)隊(duì)通過(guò)在16個(gè)IPU組成的IPU-POD16上做數(shù)據(jù)并行與模型并行,并在Bert-Base模型上進(jìn)行了精讀和吞吐量驗(yàn)證,取得了良好的性能效果。結(jié)果證明,運(yùn)行在IPU硬件上的百度飛槳解決方案,在目前主流的AI訓(xùn)練任務(wù)和前沿AI創(chuàng)新模型任務(wù)上,可以取得很好的加速效果。IPU良好的系統(tǒng)擴(kuò)展性使得用戶(hù)可以根據(jù)任務(wù)需求靈活進(jìn)行性能擴(kuò)展。
百度飛槳產(chǎn)品團(tuán)隊(duì)負(fù)責(zé)人趙喬表示:“Graphcore是百度飛槳一直以來(lái)的好朋友和重要伙伴,非常高興宣布百度飛槳在Graphcore IPU上完成訓(xùn)練和推理的支持,這是我們飛槳硬件生態(tài)一次重要的升級(jí)。百度飛槳模型庫(kù)中的模型如Bert在IPU上實(shí)現(xiàn)了很好的訓(xùn)練和推理性能。同時(shí),Graphcore的深度學(xué)習(xí)引擎PopART具有的良好可用性,也支持飛槳在IPU上的適配變得簡(jiǎn)易。我們將和Graphcore深化合作,將飛槳模型庫(kù)更多的模型遷移到IPU上,共同打造基于飛槳和IPU的世界級(jí)AI解決方案,賦能AI開(kāi)發(fā)者和企業(yè)?!?/p>
隨著Graphcore在中國(guó)不斷深耕,其中文IPU社區(qū)和生態(tài)系統(tǒng)在不斷擴(kuò)大。此次引入百度飛槳深度學(xué)習(xí)平臺(tái),除了是其軟件Poplar SDK的重要擴(kuò)充,也為Graphcore客戶(hù),尤其是中國(guó)客戶(hù)的工具箱中多放入一件重要工具。通過(guò)對(duì)百度飛槳的支持,Graphcore支持其客戶(hù)能夠在更多框架上進(jìn)行探索,IPU硬件架構(gòu)的潛能優(yōu)勢(shì)將得以進(jìn)一步釋放。
Graphcore中國(guó)工程總負(fù)責(zé)人、AI算法科學(xué)家金琛表示:“IPU對(duì)百度飛槳的支持,是Graphcore Poplar SDK的重要升級(jí),也是IPU生態(tài)系統(tǒng)的一次重大更新。百度飛槳是中文AI社區(qū)的翹楚,通過(guò)與百度飛槳合作,我們希望能夠擴(kuò)大IPU中文社區(qū),讓更多中國(guó)的開(kāi)發(fā)者能夠打破傳統(tǒng)硬件的桎梏,在IPU上進(jìn)行創(chuàng)新突破,幫助他們解決棘手的深度學(xué)習(xí)難題?!?/p>
Graphcore中國(guó)工程總負(fù)責(zé)人、AI算法科學(xué)家金琛在2021 Wave Summit+上介紹IPU上的百度飛槳
百度飛槳和Graphcore IPU精神的相通之處,就是開(kāi)源精神,將權(quán)力交給AI開(kāi)發(fā)人員,使他們能夠自由地進(jìn)行創(chuàng)新。Graphcore制造硬件和開(kāi)發(fā)軟件都遵循這一宗旨。百度飛槳在IPU上相關(guān)的代碼和模型代碼資源已經(jīng)在Graphcore GitHub和百度飛槳GitHub開(kāi)源,在雙方的GitHub以及Graphcore的官網(wǎng)開(kāi)發(fā)者頁(yè)面也附上了詳細(xì)的教程。同時(shí),使用了飛槳的Bert-Base也已經(jīng)在Graphcore的Model Garden里開(kāi)源,廣大開(kāi)發(fā)者可以前往雙方的資源池進(jìn)行探索、調(diào)取和使用。