2022年7月4日，中國(guó)北京——Graphcore?（擬未）正式發(fā)布其參與MLPerf測(cè)試的最新結(jié)果。本次提交中，Graphcore使用新發(fā)布的Bow系統(tǒng)分別在圖像分類模型ResNet-50和自然語言處理模型BERT上實(shí)現(xiàn)了和上次提交相比高達(dá)31%和37%的性能提升。此外，Graphcore還新增了語音轉(zhuǎn)錄模型RNN-T的提交。

本次MLPerf提交中，首次有第三方使用了Graphcore的系統(tǒng)。百度飛槳使用Graphcore系統(tǒng)進(jìn)行了BERT的提交，并展現(xiàn)出和Graphcore的BERT提交幾乎一致的性能，證明了Graphcore的IPU所提供的性能可以有效地跨框架復(fù)現(xiàn)，以及IPU生態(tài)進(jìn)一步繁榮的潛力。

Graphcore此次在封閉分區(qū)面向ResNet-50和BERT兩個(gè)模型提交了以3D WoW處理器Bow IPU為核心的Bow系統(tǒng)，包括Bow Pod16、Bow Pod64、Bow Pod128和Bow Pod256。和前代產(chǎn)品相比，Bow系統(tǒng)在提供更優(yōu)性能的同時(shí)價(jià)格保持不變，進(jìn)一步提升了Graphcore系統(tǒng)的性價(jià)比優(yōu)勢(shì)。結(jié)果顯示，與上次提交相比，ResNet-50的訓(xùn)練時(shí)間提升高達(dá)31%，BERT的訓(xùn)練時(shí)間提升高達(dá)37%。

在GPU占據(jù)優(yōu)勢(shì)的模型ResNet-50上，Bow Pod16僅耗時(shí)19.6分鐘，表現(xiàn)優(yōu)于NVIDIA的旗艦產(chǎn)品DGX-A100 640GB所需的28.7分鐘，再一次體現(xiàn)了Bow系統(tǒng)的性價(jià)比優(yōu)勢(shì)。

除此之外，Graphcore還提交了RNN-T在開放分區(qū)中的結(jié)果。RNN-T是一種進(jìn)行高度準(zhǔn)確的語音識(shí)別的精密方式，在移動(dòng)設(shè)備上被廣泛使用。在Bow Pod64上，RNN-T的訓(xùn)練時(shí)間可以從原本的幾周縮短到幾天。

Graphcore中國(guó)工程副總裁、AI算法科學(xué)家金琛表示：“對(duì)于本次MLPerf取得的出色成績(jī)，我們感到非常自豪，這與Graphcore始終堅(jiān)持創(chuàng)新密不可分。我們也非常高興能夠與百度飛槳聯(lián)合進(jìn)行提交，通過與百度飛槳的合作加速IPU生態(tài)系統(tǒng)的擴(kuò)展，為產(chǎn)業(yè)賦能，推動(dòng)各領(lǐng)域產(chǎn)業(yè)AI化轉(zhuǎn)型和升級(jí)。未來，我們也將繼續(xù)創(chuàng)新，應(yīng)對(duì)不斷增長(zhǎng)的AI計(jì)算挑戰(zhàn)，助力AI計(jì)算的演進(jìn)?！?/p>

在本次MLPerf Training 2.0的提交中，百度飛槳使用Bow Pod16和Bow Pod64進(jìn)行了BERT在封閉分區(qū)的提交，結(jié)果與Graphcore使用PopART進(jìn)行提交的結(jié)果幾乎一致。這充分證明了Graphcore IPU性能的跨框架復(fù)現(xiàn)能力。這一能力的實(shí)現(xiàn)得益于Graphcore靈活的硬件系統(tǒng)、持續(xù)優(yōu)化的軟件、強(qiáng)大的本地支持和合作伙伴的支持。正如此次提交，百度將Graphcore的Poplar?與飛槳軟件框架相結(jié)合，實(shí)現(xiàn)了出色的性能結(jié)果。

百度飛槳產(chǎn)品團(tuán)隊(duì)負(fù)責(zé)人趙喬表示：“百度飛槳與Graphcore的合作，在本次MLPerf上獲得了十分優(yōu)秀的成果。Graphcore的IPU系統(tǒng)在合作中展現(xiàn)了出色的性能，在許多應(yīng)用場(chǎng)景都展現(xiàn)出了巨大的應(yīng)用潛力。我們期待進(jìn)一步加深與Graphcore在硬件生態(tài)共創(chuàng)計(jì)劃中的合作，以創(chuàng)新的技術(shù)加速AI產(chǎn)業(yè)落地，推動(dòng)AI產(chǎn)業(yè)變革。”

百度飛槳已經(jīng)實(shí)現(xiàn)了對(duì)于IPU的全面支持。Graphcore是百度飛槳硬件生態(tài)圈的創(chuàng)始成員，并在2022年5月正式加入了百度飛槳發(fā)起的硬件生態(tài)共創(chuàng)計(jì)劃。未來，雙方還將進(jìn)一步展開合作，為開發(fā)者提供更多創(chuàng)新工具，推動(dòng)AI生態(tài)繁榮，從而賦能產(chǎn)業(yè)中AI的應(yīng)用和AI的商業(yè)化。產(chǎn)業(yè)中AI的應(yīng)用落地，也必將反哺AI的發(fā)展和AI生態(tài)的進(jìn)一步繁榮。