《電子技術(shù)應用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > 華為高管罕見公布昇騰AI算力性能近況

華為高管罕見公布昇騰AI算力性能近況

已超過英偉達A100
2024-06-19
來源:鈦媒體
關(guān)鍵詞: 華為 昇騰 AI算力 英偉達 A100

華為高管近期罕見公布昇騰 AI 算力的性能情況。

鈦媒體 App 6 月 17 日消息,近期舉行的 2024 世界半導體大會暨南京國際半導體博覽會的一場分論壇上,江蘇鯤鵬 · 昇騰生態(tài)創(chuàng)新中心首席運營官王陶透露,昇騰集群是國內(nèi)唯一已完成訓練千億參數(shù)大模型的技術(shù)路線,性能已經(jīng)超過了英偉達 A100。

王陶表示,中國大模型里面,有近 50%(1/2)選擇了昇騰技術(shù)路線。與英偉達 A100 相比,昇騰 AI 芯片在訓練效率層面最高是英偉達的 1.1 倍。尤其在訓練 Meta Llama、BloomGPT 等模型方面,昇騰 AI 算力訓練效率大大優(yōu)于英偉達 A100,甚至 10 倍領(lǐng)先其他國產(chǎn)友商。

" 經(jīng)過三年的實驗檢驗,中國大模型總數(shù)的 1/2 選擇的昇騰技術(shù)路線。昇騰現(xiàn)在已經(jīng)是國產(chǎn)化大模型的第一選擇。而我們經(jīng)過測試,互聯(lián)網(wǎng)頭部廠商科大訊飛也用了華為的萬卡集群,跟英偉達 A100 的相比,我們能達到 A100 的 0.8~1.2 倍的效率,在跟英偉達相比(指 0.8 倍)的確還是有一定的差距,但是在大模型訓練這一塊,(我們)跟英偉達 A100 芯片相比已經(jīng)沒有明顯差距,特別是在萬卡算力集群,包括在鯤鵬云腦、科大訊飛這一塊都經(jīng)過了市場檢驗。" 王陶稱。

1.jpg

這是華為高管非常罕見的回應昇騰 AI 算力性能與英偉達 A100 之間的優(yōu)勢。

據(jù)悉,昇騰和鯤鵬分別是華為面向通用計算和智能計算的兩款算力產(chǎn)品,是華為 AI 計算生態(tài)里面的關(guān)鍵技術(shù)系列。

公開信息顯示,江蘇鯤鵬 · 昇騰生態(tài)創(chuàng)新中心成立于 2019 年 8 月,是南京江北新區(qū)與華為聯(lián)合宣布發(fā)展鯤鵬計算產(chǎn)業(yè)后成立的創(chuàng)新機構(gòu)。王陶稱,創(chuàng)新中心的使命就是基于華為的鯤鵬、昇騰技術(shù),聯(lián)合生態(tài)伙伴賦能千行百業(yè)進行數(shù)字化轉(zhuǎn)型。

最新年報顯示,2023 年,華為公司共實現(xiàn)營收 7042 億元(人民幣,下同),同比增長 9.6%;凈利潤 870 億元,同比大增 144%。同時,華為重視研究與創(chuàng)新,2023 年研發(fā)投入達到 1647 億元,占全年收入的 23.4%,十年累計投入的研發(fā)費用超過 1.11 萬億元。

實際上,華為從 2018 年開始大規(guī)模投入 AI 算力和模型:

2018 年 10 月,華為全棧全場景 AI 解決方案發(fā)布。

2019 年 9 月,全球最快 AI 訓練集群 Atlas 900 發(fā)布。

2020 年 3 月,全場景 Al 計算框架 MindSpore 正式開源。

2020 年 10 月,鵬城云腦 II E 級算力集群業(yè)務上線。

2020 年起,華為提出大算力,孵化大模型,帶動大產(chǎn)業(yè)?;跁N騰鯤鵬,華為聯(lián)合生態(tài)伙伴孵化了 20 多家的大模型,包括鵬程實驗室的鵬程云腦大模型、紫東紫東太初、華為盤古大模型等。

2021 年 5 月,武漢人工智能計算中心 1 期 100PFLOPS 建成投入運行。

2023 年 9 月,華為發(fā)布了支持萬億參數(shù)大模型訓練和推理的算力集群方案。

王陶指出,基于華為自研的 AI 算力,從底層的 Atlas 硬件到算子庫,再到上層的開發(fā)工具鏈,昇騰在大模型推理、訓練兩個方面均提供一整套解決方案,包括開發(fā)套件、基礎(chǔ)加速庫等。而在開發(fā)速度上,基于昇騰方案,客戶大大縮短開發(fā)周期,在典型場景下推理性能提高 1.5-3 倍,實現(xiàn)更強的業(yè)務協(xié)同。

算力層面,目前,華為在全國 20 多個城市建設(shè)昇騰人工智能計算中心,超過 2500PFlops(每秒運算能力為 2500 千萬億次)普惠 Al 算力。

據(jù)悉,國內(nèi)上線及試運營的計算中心城市包括深圳、武漢、西安、許昌、南京、 成都、杭州、沈陽、重慶、天津、寧波、廣州、青島、北京、大連、上海、無錫、福州、合肥;待上線城市包括昆明、長沙、廊坊、南寧、貴陽、 長春、南昌、濟南。

華為透露,其智算集群使用率超過 90%。其中在南京,昇騰算力共有 140P,使用率 93%;武漢擁有 200P,使用率 95%+;深圳的算力使用率超過 99%;成都 98%;杭州 80%;沈陽 98%。

而目前,包括騰訊、百度在內(nèi)的中國科技巨頭以及科大訊飛等領(lǐng)先的初創(chuàng)公司都購買了 910B。

華為公司昇騰計算業(yè)務總裁張迪煊上個月透露,昇騰生態(tài)系統(tǒng)擁有 40 個硬件合作伙伴、超過 1600 個軟件合作伙伴和超過 2900 個 AI 應用解決方案。

王陶則透露,華為鯤鵬在全國有 5100+ 合作伙伴,15800+ 解決方案,擁有開發(fā)者超過 310 萬。

2.jpg

王陶強調(diào),目前全球 AI 算力需求在加速,大算力支撐大模型,促進人工智能走向新階段。而華為堅持硬件開放、軟件開源、使能伙伴、發(fā)展人才,推動生態(tài)蓬勃向上。


Magazine.Subscription.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。