現(xiàn)階段,發(fā)展人工通用智能的方法主要有兩種:一種是以神經(jīng)科學(xué)為基礎(chǔ),盡量模擬人類大腦;另一種是以計(jì)算機(jī)科學(xué)為導(dǎo)向,讓計(jì)算機(jī)運(yùn)行機(jī)器學(xué)習(xí)算法。二者各有優(yōu)缺點(diǎn),目前將兩者融合被公認(rèn)為最佳解決方案之一。發(fā)展一個(gè)二者融合的計(jì)算平臺(tái)將是推動(dòng)融合的一個(gè)關(guān)鍵。近日,清華大學(xué)在該領(lǐng)域研究取得新的突破:全球首款異構(gòu)融合類腦計(jì)算芯片——“天機(jī)芯”推出, 由該芯片驅(qū)動(dòng)的的“無人駕駛自行車”登上了最新一期Nature封面!
這項(xiàng)研究由依托精密儀器系的清華大學(xué)類腦計(jì)算研究中心施路平教授團(tuán)隊(duì)進(jìn)行,演示了一輛由新型人工智能芯片驅(qū)動(dòng)的自動(dòng)駕駛自行車。 基于此研究成果的論文“面向人工通用智能的異構(gòu)天機(jī)芯片架構(gòu)”(Towards artificial general intelligence with hybrid Tianjic chip architecture)作為封面文章登上了8月1日《自然》(Nature),實(shí)現(xiàn)了中國在芯片和人工智能兩大領(lǐng)域《自然》論文零的突破。
這種混合芯片被命名為“天機(jī)芯”(Tianjic),有多個(gè)高度可重構(gòu)的功能性核,可以同時(shí)支持機(jī)器學(xué)習(xí)算法和現(xiàn)有類腦計(jì)算算法。研究人員用一個(gè)自動(dòng)行駛自行車系統(tǒng)驗(yàn)證了這一混合芯片的處理能力。這是一個(gè)異構(gòu)可擴(kuò)展人工通用智能開發(fā)演示平臺(tái),利用一塊天機(jī)芯片,展示了自行車的自平衡、動(dòng)態(tài)感知、目標(biāo)探測、跟蹤、自動(dòng)避障、過障、語音理解、自主決策等功能。
試驗(yàn)中,無人自行車不僅可以識(shí)別語音指令、實(shí)現(xiàn)自平衡控制,還能對(duì)前方行人進(jìn)行探測和跟蹤,并自動(dòng)避障。施路平教授表示,這只是非常初步的一個(gè)研究,但這項(xiàng)研究或能為面向人工通用智能計(jì)算平臺(tái)的進(jìn)一步發(fā)展起到促進(jìn)作用。
一般認(rèn)為,實(shí)現(xiàn)通用人工智能(AGI)有兩條路:分別為計(jì)算機(jī)科學(xué)導(dǎo)向和神經(jīng)科學(xué)導(dǎo)向。由于這兩條路的思路、理念和實(shí)現(xiàn)方案存在根本差異,分別依賴于不同開發(fā)平臺(tái),彼此互不兼容,這給AGI技術(shù)的開發(fā)造成很大阻礙。目前迫切需要一個(gè)同時(shí)支持兩種方法的通用平臺(tái)。施路平團(tuán)隊(duì)開發(fā)的“天機(jī)芯”(Tianjic芯片)就做到了這一點(diǎn),可以為AGI技術(shù)提供一個(gè)混合協(xié)同的開發(fā)平臺(tái)。
圖1 Tianjic芯片和測試板
Tianjic芯片采用眾核架構(gòu)、可重構(gòu)功能核模塊和混合編碼方案的類數(shù)據(jù)流控制模式,不僅可以適應(yīng)基于計(jì)算機(jī)科學(xué)的機(jī)器學(xué)習(xí)算法,還可以輕松實(shí)現(xiàn)受大腦原理啟發(fā)的神經(jīng)計(jì)算模型和多種編碼方案。
圖2 天機(jī)異構(gòu)融合類腦計(jì)算架構(gòu)
僅用一個(gè)芯片,就可以在無人駕駛自行車系統(tǒng)中同時(shí)處理多種算法和模型,實(shí)現(xiàn)實(shí)時(shí)目標(biāo)檢測、跟蹤、語音控制、避障和平衡控制。這一研究預(yù)計(jì)可以為通用性更高的硬件平臺(tái)發(fā)展開拓新的道路,促進(jìn)AGI技術(shù)的開發(fā)。
鑒于目前機(jī)器學(xué)習(xí)和神經(jīng)科學(xué)的進(jìn)步,AGI系統(tǒng)至少應(yīng)具有以下特征:
(1)能夠支持在神經(jīng)網(wǎng)絡(luò)中進(jìn)行豐富的空間、時(shí)間和時(shí)空關(guān)系的表達(dá)。
(2)支持分層、多粒度和多域網(wǎng)絡(luò)拓?fù)浼軜?gòu),不限于某一專門的網(wǎng)絡(luò)結(jié)構(gòu)。
(3)支持各種模型,算法和編碼方案。
(4)支持多個(gè)專用神經(jīng)網(wǎng)絡(luò)的交織合作,這些神經(jīng)網(wǎng)絡(luò)可能是為并行處理不同任務(wù)而設(shè)計(jì)的。
這些特征需要在一個(gè)通用化的平臺(tái)中高效地運(yùn)行,即能夠在統(tǒng)一框架中實(shí)現(xiàn)對(duì)主流的人工神經(jīng)網(wǎng)絡(luò)(ANN)以及受神經(jīng)科學(xué)啟發(fā)的模型和算法的支持。
圖3 實(shí)現(xiàn)AGI開發(fā)的混合路線
為了支持這些功能,團(tuán)隊(duì)開發(fā)了一種跨范式計(jì)算平臺(tái),可以適應(yīng)面向計(jì)算機(jī)科學(xué)和神經(jīng)科學(xué)的神經(jīng)網(wǎng)絡(luò)(圖3),兼容各種神經(jīng)模型和算法,尤其是基于生物學(xué)的(如脈沖神經(jīng)網(wǎng)絡(luò),即SNN)要素。通常,ANN和SNN在信息表示、計(jì)算原理和記憶組織方面具有不同的建模方式(如圖4a所示)。二者最大的差異是,ANN以精確的多位值來處理信息,而SNN使用二進(jìn)制脈沖序列。ANN神經(jīng)元和SNN神經(jīng)元之間的實(shí)現(xiàn)比較如圖4b所示。
另一方面,ANN和SNN神經(jīng)元之間也存在一些相似之處,這就為模型間的融合留下了空間。通過對(duì)ANN和SNN的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行詳細(xì)比較,將計(jì)算模型解析并對(duì)應(yīng)到相關(guān)的神經(jīng)元功能模塊上 - 即軸突、突觸、樹突和胞體,從而構(gòu)建一個(gè)跨范式的統(tǒng)一神經(jīng)元方案(如圖4c所示)。團(tuán)隊(duì)設(shè)計(jì)了同時(shí)適用兩種方案的突觸和樹突,而軸突和體細(xì)胞通過獨(dú)立重構(gòu)來改變功能。
圖4 Tianjic芯片設(shè)計(jì)示意圖
圖4d是一個(gè)完整的單功能核(FCore)示意圖,包括軸突、突觸、樹突、胞體和路由部分。為了實(shí)現(xiàn)深度融合,幾乎整個(gè)FCore都可以重新配置,以便在不同模式下實(shí)現(xiàn)高利用率。FCore能夠涵蓋大多數(shù)ANN和SNN使用的線性積分和非線性變換操作。該芯片上的FCores以二維2D網(wǎng)格方式排列,如圖2e和2f所示。
Tianjic芯片和其后端布局圖如圖5a所示。芯片由156個(gè)FCore組成,包含大約40000個(gè)神經(jīng)元和1000萬個(gè)突觸。Tianjic芯片采用28納米半導(dǎo)體工藝制造,面積為3.8×3.8平方毫米。每個(gè)獨(dú)立模塊占用的芯片面積,包括軸突,電流,信號(hào),路由器,控制器和其他芯片開銷,如圖5b所示。由于資源可以重復(fù)使用,用以兼容SNN和ANN模式的區(qū)域僅占總面積的3%左右。FCore的功耗分解如圖3c所示。
圖5 芯片評(píng)估和建模摘要示意圖
Tianjic能夠支持多種神經(jīng)網(wǎng)絡(luò)模型,包括基于神經(jīng)科學(xué)的網(wǎng)絡(luò)(如SNN,以及基于生物學(xué)啟發(fā)的神經(jīng)網(wǎng)絡(luò))和基于計(jì)算機(jī)科學(xué)的網(wǎng)絡(luò)(如MLP,CNN和RNN等)。圖3d所示為在Tianjic芯片上測試不同網(wǎng)絡(luò)模型與通用處理單元的測試結(jié)果。
如圖5e所示,具有樹突中繼的混合神經(jīng)網(wǎng)絡(luò)可突破傳統(tǒng)神經(jīng)形態(tài)芯片F(xiàn)an in/fan out的限制,避免SNN網(wǎng)絡(luò)的精度損失(+11.5%)。采用這種混合模式增加的額外開銷小到可以忽略不計(jì),因?yàn)門ianjic可以自然地在FCore中實(shí)現(xiàn)異構(gòu)轉(zhuǎn)換。使用Tianjic還可以探索更具生物學(xué)意義的認(rèn)知模型(如圖3f所示)。
為了證明構(gòu)建類腦跨范式智能系統(tǒng)的可行性,團(tuán)隊(duì)利用無人駕駛自行車發(fā)展了一個(gè)異構(gòu)可擴(kuò)展人工通用智能開發(fā)展示平臺(tái),在一塊Tianjic芯片內(nèi)并行部署并同時(shí)運(yùn)行多個(gè)專用網(wǎng)絡(luò)。實(shí)驗(yàn)中的自行車配備了多種算法和模型,能夠執(zhí)行實(shí)時(shí)物體檢測、跟蹤,語音命令識(shí)別、加速、減速、躲避障礙、控制平衡和決策等任務(wù)。
要實(shí)現(xiàn)這些任務(wù),需要克服三個(gè)主要挑戰(zhàn):首先,在室外自然環(huán)境中成功檢測并平滑跟蹤移動(dòng)目標(biāo)、跨越減速帶,并在必要時(shí)自動(dòng)避開障礙物。第二,需實(shí)時(shí)響應(yīng)平衡控制、語音命令和視覺感知產(chǎn)生實(shí)時(shí)電機(jī)控制信號(hào),以保持自行車在正確的方向上運(yùn)動(dòng)。第三,實(shí)現(xiàn)多種信息的集成處理和快速?zèng)Q策。
圖6:基于Tianjic芯片多模型整合平臺(tái)的無人駕駛自行車各項(xiàng)測試結(jié)果
為了完成這些任務(wù),團(tuán)隊(duì)開發(fā)了幾個(gè)神經(jīng)網(wǎng)絡(luò),包括用于圖像處理和物體檢測的CNN,用于人類目標(biāo)跟蹤的CANN,用于語音命令識(shí)別的SNN,用于姿態(tài)平衡和方向控制的MLP,還有用于決策控制的混合網(wǎng)絡(luò)。
由于芯片的分散式架構(gòu)和任意路由拓?fù)?,Tianjic芯片平臺(tái)可以實(shí)現(xiàn)所有神經(jīng)網(wǎng)絡(luò)模型的并行化運(yùn)行,并實(shí)現(xiàn)多個(gè)模型之間的無縫通信,使自行車能夠順利完成這些任務(wù)。圖6c顯示響應(yīng)不同語音命令的輸出信號(hào)。
圖6d顯示自行車在跟蹤、避障和和“S形”曲線行進(jìn)時(shí)的輸出控制信號(hào)。圖6e為基于物理量度的不同速度下的車輛姿態(tài)和轉(zhuǎn)向控制的學(xué)習(xí)情況。
Tianjic芯片可以同時(shí)支持基于計(jì)算機(jī)科學(xué)的機(jī)器學(xué)習(xí)算法和基于神經(jīng)科學(xué)的生物學(xué)模型,可以自由地集成各種神經(jīng)網(wǎng)絡(luò)和混合編碼方案,實(shí)現(xiàn)多網(wǎng)絡(luò)之間的無縫通信,包括SNN和ANN。
本文介紹了一種新穎的類腦計(jì)算的芯片架構(gòu),通過將交叉范式模型和算法集成到一個(gè)平臺(tái)上來實(shí)現(xiàn)靈活性和擴(kuò)展性。希望這一研究成果能夠加速AGI的發(fā)展,推動(dòng)新的實(shí)際應(yīng)用的發(fā)展。