12月8日消息,中國(guó)聯(lián)通宣布,中國(guó)聯(lián)通研究院日前與浙江聯(lián)通、聯(lián)通服裝制造軍團(tuán)協(xié)同攻關(guān),針對(duì)AI敏感數(shù)據(jù)的本地存儲(chǔ)異地訓(xùn)練需求提出了創(chuàng)新的業(yè)務(wù)模式,并成功在杭州與金華兩地間實(shí)施了業(yè)界首次30TB樣本數(shù)據(jù)的跨200公里存算分離拉遠(yuǎn)訓(xùn)練。
經(jīng)過(guò)實(shí)際測(cè)算,訓(xùn)練效率高達(dá)97%以上。
中國(guó)聯(lián)通表示,上述業(yè)務(wù)模式為業(yè)界首例,實(shí)現(xiàn)了AI大模型存算分離技術(shù)的突破。
通過(guò)測(cè)試,充分驗(yàn)證了存算分離技術(shù)的安全性、可行性和高效性,為未來(lái)AI技術(shù)的發(fā)展提供了新的思路和方向。
據(jù)介紹,存算分離技術(shù)是指將存儲(chǔ)數(shù)據(jù)的倉(cāng)庫(kù)和對(duì)數(shù)據(jù)進(jìn)行計(jì)算的加工廠獨(dú)立開來(lái),在訓(xùn)練時(shí)直接將數(shù)據(jù)從遠(yuǎn)端存儲(chǔ)設(shè)備中拉過(guò)來(lái)進(jìn)行計(jì)算,而不需要先存儲(chǔ)到本地的磁盤再進(jìn)行處理,可以有效保證用戶數(shù)據(jù)的安全性和一致性。
本次存算拉遠(yuǎn)測(cè)試的主要特色包括:
跨地市AI大模型訓(xùn)練能力創(chuàng)新:傳統(tǒng)的智算集中訓(xùn)練模式需要用戶將樣本上傳到智算中心進(jìn)行落盤訓(xùn)練,但部分用戶對(duì)隱私樣本落盤存在安全顧慮,浙江聯(lián)通通過(guò)IP廣域無(wú)損方案,實(shí)現(xiàn)了杭州存、金華訓(xùn)的“數(shù)據(jù)不落盤”拉遠(yuǎn)訓(xùn)練,為企業(yè)用戶隱私樣本訓(xùn)練探索出了一條新路。
樣本數(shù)據(jù)總量與傳輸效率:樣本數(shù)據(jù)總量達(dá)30TB,傳輸距離超200公里,計(jì)算拉遠(yuǎn)效率大于97%。通過(guò)聯(lián)通服裝制造軍團(tuán)“衣瞳行業(yè)模型”的AI訓(xùn)練存算分離現(xiàn)網(wǎng)測(cè)試,充分驗(yàn)證了針對(duì)AI訓(xùn)練業(yè)務(wù)存算拉遠(yuǎn)的技術(shù)可行性。