8月18日消息,半導(dǎo)體公司NEO Semiconductor近日宣布推出3D X-AI芯片技術(shù),被設(shè)計(jì)用于取代高帶寬內(nèi)存(HBM)中的現(xiàn)有DRAM芯片,以提升人工智能處理性能并顯著降低能耗。
3D X-AI芯片集成了8000個(gè)神經(jīng)元電路,這些電路直接在3D DRAM中執(zhí)行AI處理任務(wù),實(shí)現(xiàn)了AI性能加速達(dá)到100倍。
與此同時(shí),由于大幅減少了數(shù)據(jù)傳輸需求,該芯片的功耗降低了99%,有效降低了數(shù)據(jù)總線的功耗和發(fā)熱問(wèn)題。
NEO Semiconductor的這一創(chuàng)新還帶來(lái)了8倍的內(nèi)存密度,其3D X-AI芯片包含300個(gè)DRAM層,支持運(yùn)行更大規(guī)模的AI模型。
該公司此前已宣布全球首款3D DRAM技術(shù),而3D X-AI芯片則是在此基礎(chǔ)上的進(jìn)一步創(chuàng)新,通過(guò)類(lèi)似HBM的堆疊封裝,實(shí)現(xiàn)了每芯片高達(dá)10 TB/s的AI處理吞吐量。
NEO Semiconductor創(chuàng)始人兼首席執(zhí)行官Andy Hsu指出,當(dāng)前AI芯片架構(gòu)中數(shù)據(jù)存儲(chǔ)與處理的分離導(dǎo)致了性能瓶頸和高功耗問(wèn)題。
3D X-AI芯片通過(guò)在每個(gè)HBM芯片中執(zhí)行AI處理,顯著減少了HBM和GPU之間傳輸?shù)臄?shù)據(jù)量,從而提高性能并降低功耗。
行業(yè)分析師Jay Kramer認(rèn)為,3D X-AI技術(shù)的應(yīng)用將加速新興AI用例的開(kāi)發(fā),并推動(dòng)新用例的創(chuàng)造,為AI應(yīng)用創(chuàng)新開(kāi)啟新時(shí)代。