《電子技術應用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > 云天勵飛正式發(fā)布深目AI模盒

云天勵飛正式發(fā)布深目AI模盒

把大模型“裝”進小盒子 
2024-03-29
來源:經濟參考網

3月28日,云天勵飛(688343.SH)舉辦AI大模型產品發(fā)布會,正式發(fā)布“深目”AI模盒。據(jù)介紹,該產品能夠做到“3個90%”——覆蓋場景超過90%、算法精度超過90%,使用成本降低90%,解決大模型在場景落地“最后一公里”的問題,幫助更多中小企業(yè)客戶輕松使用大模型。

1.png

從ChatGPT到Sora,從文生文、文生圖像到文生視頻,大模型發(fā)展日新月異,持續(xù)給行業(yè)帶來驚喜,不僅國內掀起“百模大戰(zhàn)”,國外科技巨頭也在大模型上相互“較勁”。

發(fā)布會上,云天勵飛董事長兼CEO陳寧認為,未來3年,全球80%的企業(yè)都將使用大模型。但是,要訓練專屬大模型,不僅需要大算力、大數(shù)據(jù),還需要大量頂尖人才。大模型一次訓練成本在千萬元級,主流的訓推一體機價格普遍在百萬元,絕大多數(shù)企業(yè)都無法承擔這樣高昂的成本。

值得關注的是,為了能夠讓大模型“平民化”,云天勵飛推出了“深目”AI模盒。這款產品售價在千元級,用單手就能托起,搭載了云天勵飛的自研大模型邊緣訓推芯片DeepEdge10 Max以及自研多模態(tài)大模型“云天天書”,具備算法邊緣側在線學習能力,可實現(xiàn)算法場景覆蓋超過90%、算法精度超過90%,使用成本降低90%,讓用戶都能夠根據(jù)自身場景需求,利用大模型能力,訓練出可實戰(zhàn)應用的算法。

“能夠實現(xiàn)3個90%,離不開云天勵飛的核心能力——算法芯片化?!标悓幷f。據(jù)介紹,“深目”AI模盒的算力基礎,來源于去年云天勵飛推出的14nm Chiplet大模型訓推芯片DeepEdge10 Max。該芯片采用自主可控的國產工藝,內含國產RISC-V核,支持大模型訓練推理部署。依托自研芯片DeepEdge10 Max創(chuàng)新的D2D chiplet架構打造的X5000推理卡,已適配并可承載10億級SAM、百億級Llama2等大模型運算,可廣泛應用于AIoT邊緣視頻、移動機器人等場景。

此外,為了共同探索更多大模型低成本、高效率落地應用路徑,云天勵飛與鵬城實驗室、之江實驗室、上海交通大學城市治理研究院等多家單位共同成立“深目2.0”生態(tài)聯(lián)盟,共同探索更多大模型落地應用路徑。


雜志訂閱.jpg

本站內容除特別聲明的原創(chuàng)文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創(chuàng)文章及圖片等內容無法一一聯(lián)系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。