人們對(duì)人類大腦工作機(jī)理的不斷探求,催生了高效類腦計(jì)算的研究。隨著半導(dǎo)體技術(shù)的更新迭代,神經(jīng)形態(tài)器件為研究人員帶來(lái)了實(shí)現(xiàn)高效類腦計(jì)算的曙光。機(jī)遇與挑戰(zhàn)并存,在神經(jīng)形態(tài)器件的工作機(jī)理和材料等方面也會(huì)遇到諸多困難。清華大學(xué)精密儀器系類腦計(jì)算團(tuán)隊(duì)對(duì)此開(kāi)展了深入的研究,并獲得系列突破。
從功能上看,人類大腦儼然是一個(gè)強(qiáng)大的“信息處理系統(tǒng)”,但卻如同一個(gè)“黑匣子”,時(shí)至今日人們對(duì)其機(jī)理依舊知之甚少?,F(xiàn)代神經(jīng)科學(xué)表明,人類大腦大約包含860億個(gè)神經(jīng)元,這與銀河系中恒星的數(shù)量大致相當(dāng),而連接神經(jīng)元的突觸數(shù)量更是達(dá)到神經(jīng)元數(shù)量的1000倍,由此可見(jiàn)大腦結(jié)構(gòu)的高度復(fù)雜性,這在很大程度上遲滯了人們探索大腦工作機(jī)理的腳步。慶幸的是,近幾十年飛速發(fā)展的神經(jīng)科學(xué)正在為破譯“黑匣子”帶來(lái)更多啟示。
在嘗試?yán)斫獯竽X的同時(shí),人們也在試圖構(gòu)建與大腦功能類似的類腦計(jì)算系統(tǒng)。20世紀(jì)以來(lái),半導(dǎo)體技術(shù)和計(jì)算機(jī)科學(xué)獲得巨大發(fā)展,進(jìn)而掀起構(gòu)建電子大腦的熱潮。當(dāng)前,基于馮?諾依曼架構(gòu)的計(jì)算機(jī)仍是主流,并能夠代替人類更快、更準(zhǔn)確地執(zhí)行基于固定規(guī)則的任務(wù)。隨著對(duì)更高級(jí)人工智能需求的日益迫切,人們逐漸意識(shí)到馮?諾依曼架構(gòu)計(jì)算機(jī)在適應(yīng)性、容錯(cuò)和泛化能力方面依然落后于人腦,人們亟需找到更加類腦的計(jì)算范式。神經(jīng)形態(tài)電子學(xué)為實(shí)現(xiàn)這一目標(biāo)帶來(lái)了曙光,其旨在通過(guò)模擬神經(jīng)行為來(lái)實(shí)現(xiàn)計(jì)算功能,而模擬神經(jīng)行為則需要與其特性相似的半導(dǎo)體器件來(lái)實(shí)現(xiàn),即神經(jīng)形態(tài)器件。
━━ ━━
憶阻器與神經(jīng)形態(tài)器件
時(shí)間回溯到1971年,蔡少棠(Leon O. Chua)在“Memristor-The Missing Circuit Element”一文中通過(guò)啟發(fā)式的推理,預(yù)言了在電阻、電容、電感三大基礎(chǔ)電路元件之外還存在另一種基礎(chǔ)元件——憶阻器,如圖1所示。在預(yù)言37年之后的2008年,惠普實(shí)驗(yàn)室在《自然》(Nature)上發(fā)表“The Missing Memristor Found”一文,宣布在新型微納半導(dǎo)體器件中觀測(cè)到憶阻現(xiàn)象。因此,蔡少棠也被譽(yù)為“憶阻器之父”。
憶阻器的電阻可調(diào)性和記憶特性(當(dāng)前電阻值取決于電壓/電流的激勵(lì)歷史)與神經(jīng)突觸的長(zhǎng)期可塑性十分相似,而突觸可塑性正是大腦學(xué)習(xí)和記憶功能的基礎(chǔ)。此后,憶阻器件和神經(jīng)形態(tài)器件幾乎成為了兩個(gè)可以互換的概念,神經(jīng)形態(tài)電子學(xué)也進(jìn)入了一個(gè)快速發(fā)展的階段。除了生物相似性之外,憶阻器(電路)與傳統(tǒng)的互補(bǔ)金屬氧化物半導(dǎo)體(CMOS)器件(電路)相比,還在可微縮能力、存儲(chǔ)密度、功耗等方面具有潛在優(yōu)勢(shì)。
在過(guò)去的十?dāng)?shù)年里,基于憶阻效應(yīng)的神經(jīng)形態(tài)器件取得了許多重要進(jìn)展。在材料技術(shù)方面,從無(wú)機(jī)物到有機(jī)物,從普通材料到量子材料,從鐵電材料到鐵磁材料,從體材料到低維材料等等,都展示出各自獨(dú)特的神經(jīng)形態(tài)特性。在功能方面,憶阻器可模擬的突觸可塑性功能越來(lái)越多,且已不再局限于突觸模擬,還能夠模擬神經(jīng)元功能,這為全憶阻器神經(jīng)形態(tài)電路的實(shí)現(xiàn)創(chuàng)造了可能性。除了單器件研究外,傳統(tǒng)晶體管與憶阻器混合的神經(jīng)形態(tài)集成電路研究也在規(guī)模、功能等方面不斷取得可喜的進(jìn)展。
目前,基于憶阻器的神經(jīng)形態(tài)技術(shù)仍然面臨許多挑戰(zhàn)。在仿生能力方面,神經(jīng)形態(tài)器件對(duì)生物神經(jīng)組織的模擬程度還不夠高,大多僅能模擬細(xì)胞尺度的宏觀電生理行為,而無(wú)法模擬在亞細(xì)胞尺度上的機(jī)制。在計(jì)算功能方面,神經(jīng)形態(tài)電路的功能還比較初級(jí),大多作為人工深度神經(jīng)網(wǎng)絡(luò)算法的硬件加速器來(lái)使用,而無(wú)法充分演示生物神經(jīng)網(wǎng)絡(luò)特有的時(shí)間動(dòng)力學(xué)計(jì)算優(yōu)勢(shì)。在集成技術(shù)方面,憶阻器在性能上還不能完全滿足大規(guī)模集成的需要,一般仍需傳統(tǒng)晶體管的協(xié)助,無(wú)法完全體現(xiàn)出憶阻器的可微縮性和低功耗優(yōu)勢(shì)。
從上述挑戰(zhàn)出發(fā),清華大學(xué)精密儀器系類腦計(jì)算團(tuán)隊(duì)(以下簡(jiǎn)稱團(tuán)隊(duì))在神經(jīng)形態(tài)器件的工作機(jī)理和材料等方面進(jìn)行了深入研究,并提出具有原創(chuàng)性和突破性的解決方案。
━━ ━━
三端口憶阻器:突觸長(zhǎng)短期
可塑性在單器件中共存
通過(guò)借鑒神經(jīng)生物學(xué)原理,團(tuán)隊(duì)意識(shí)到即使在模擬最基礎(chǔ)的突觸可塑性功能方面,神經(jīng)形態(tài)器件也存在仿生程度不足而導(dǎo)致器件功能局限的問(wèn)題。具體來(lái)說(shuō),神經(jīng)突觸除了長(zhǎng)期可塑性之外,還存在短時(shí)程尺度的可塑性,兩者在亞細(xì)胞尺度上的發(fā)生區(qū)域和機(jī)制都截然不同,如圖2(a)所示。兩者的共存也是生物神經(jīng)網(wǎng)絡(luò)豐富的時(shí)間動(dòng)力學(xué)的重要來(lái)源之一。然而,在傳統(tǒng)的神經(jīng)形態(tài)器件中,突觸的長(zhǎng)期可塑性與短期可塑性都由同源的物理機(jī)制來(lái)模擬,且發(fā)生在器件的同一區(qū)域中,導(dǎo)致兩種可塑性互斥而無(wú)法共存。
針對(duì)這一問(wèn)題,團(tuán)隊(duì)提出了一種三端口憶阻器解決方案,如圖2(b)所示。三端口憶阻器具有天然的兩個(gè)空間區(qū)域,即源漏溝道(源極和漏極之間的溝道)和柵極電容;也天然地具備兩種物理效應(yīng),即短時(shí)程的柵極電容效應(yīng)和長(zhǎng)時(shí)程的柵極憶阻效應(yīng)。柵極電容效應(yīng)直接作用于溝道,短時(shí)地改變溝道導(dǎo)電性;而柵極憶阻效應(yīng)來(lái)源于柵極介質(zhì)狀態(tài)的改變,進(jìn)而間接影響溝道導(dǎo)電性。如此一來(lái),突觸的長(zhǎng)期與短期可塑性能夠在不同的區(qū)域中被不同的物理機(jī)制所模擬,從而實(shí)現(xiàn)在單器件中的共存,如圖2(c)所示。該研究為以動(dòng)力學(xué)時(shí)間復(fù)雜度為特征的類腦計(jì)算提供了普適的基元器件,相關(guān)研究成果以“Truly Concomitant and Independently Expressed Short- and Long-Term Plasticity in a Bi2O2Se-Based Three-Terminal Memristor”為題在國(guó)際知名期刊《先進(jìn)材料》(Advanced Materials)上發(fā)表。
━━ ━━
基于碲導(dǎo)電通道生成和斷裂阻變
機(jī)理的全憶阻器件集成方案
在器件集成方面,大規(guī)模神經(jīng)形態(tài)突觸網(wǎng)絡(luò)目前仍普遍存在器件之間串?dāng)_的問(wèn)題,這對(duì)神經(jīng)網(wǎng)絡(luò)推理和學(xué)習(xí)過(guò)程的可靠性產(chǎn)生了嚴(yán)重影響。傳統(tǒng)的解決方案是為每個(gè)憶阻器串聯(lián)一個(gè)晶體管開(kāi)關(guān),開(kāi)放處于工作狀態(tài)的通道,同時(shí)隔斷來(lái)自非工作狀態(tài)器件的干擾。值得注意的是,晶體管是一種面積較大且功耗較高的器件,而晶體管開(kāi)關(guān)的介入勢(shì)必會(huì)使憶阻器技術(shù)在可微縮性和低功耗方面的優(yōu)勢(shì)無(wú)法得到體現(xiàn)。
針對(duì)這一問(wèn)題,團(tuán)隊(duì)提出了一種基于單質(zhì)半導(dǎo)體碲(Te)導(dǎo)電通道生成和斷裂阻變機(jī)理的全憶阻器件集成方案。單質(zhì)碲半導(dǎo)體材料具有電化學(xué)活性、低熔點(diǎn)、低導(dǎo)熱系數(shù)和低電導(dǎo)率的特點(diǎn),可以用于構(gòu)造在大驅(qū)動(dòng)電流下實(shí)現(xiàn)瞬態(tài)開(kāi)關(guān)的固態(tài)電化學(xué)器件,其功能類似于晶體管,但結(jié)構(gòu)更簡(jiǎn)單、可微縮能力更強(qiáng),如圖3(a)所示。實(shí)現(xiàn)這一功能的機(jī)制在于,碲導(dǎo)電通道先在電化學(xué)的作用下生成,而后又在大電流焦耳熱的作用下被熔斷。與此同時(shí),利用相同的器件還可以在小電流下實(shí)現(xiàn)電阻狀態(tài)穩(wěn)定的調(diào)節(jié),模擬了突觸的長(zhǎng)期可塑性,如圖3(b)所示。這與碲半導(dǎo)體具有比金屬更低的導(dǎo)電性有關(guān)。大電流開(kāi)關(guān)和小電流突觸功能是神經(jīng)形態(tài)突觸網(wǎng)絡(luò)對(duì)器件的基本要求,但在傳統(tǒng)憶阻器中卻是一對(duì)基本矛盾。一般來(lái)說(shuō),大電流會(huì)使材料結(jié)構(gòu)的改變更加徹底,電阻狀態(tài)也會(huì)相應(yīng)地保持更長(zhǎng)時(shí)間,反之則反。此即憶阻器在突觸網(wǎng)絡(luò)應(yīng)用中遇到的“電流-電阻保持時(shí)間”矛盾。團(tuán)隊(duì)通過(guò)巧妙利用碲半導(dǎo)體的電學(xué)、電化學(xué)和熱學(xué)綜合特性使之得以化解。團(tuán)隊(duì)還進(jìn)一步利用一對(duì)全同器件演示了完整的“開(kāi)關(guān)/突觸”串聯(lián)器件功能,如圖3(c)所示,為同質(zhì)集成的憶阻器神經(jīng)形態(tài)突觸網(wǎng)絡(luò)提供了有價(jià)值的參考。相關(guān)研究成果以“A new opportunity for the emerging tellurium semiconductor: making resistive switching devices”為題在國(guó)際知名期刊《自然?通訊》(Nature Communications)上發(fā)表。
━━ ━━
最新進(jìn)展
在神經(jīng)形態(tài)器件研究方面,團(tuán)隊(duì)基于上述的階段性成果,正在逐步開(kāi)展神經(jīng)形態(tài)器件集成電路研究,以期在系統(tǒng)層次上模擬大腦的計(jì)算功能,并實(shí)現(xiàn)材料-器件-系統(tǒng)的跨尺度協(xié)同優(yōu)化。此外,團(tuán)隊(duì)還受邀在國(guó)際知名期刊《先進(jìn)智能系統(tǒng)》(Advanced Intelligent Systems)上發(fā)表了由自身對(duì)類腦計(jì)算系統(tǒng)發(fā)展的見(jiàn)解以及對(duì)該領(lǐng)域進(jìn)展調(diào)研總結(jié)而成的題為“A Marr's Three-Level Analytical Framework for Neuromorphic Electronic Systems”的綜述文章。當(dāng)前,團(tuán)隊(duì)已經(jīng)研制出基于模擬型憶阻器、低工作電流(關(guān)態(tài)電流低至10-12安,開(kāi)態(tài)電流低至10-8安)以及抗串?dāng)_的10k規(guī)模集成陣列,如圖4所示,并正在該平臺(tái)上部署一系列新型的類腦計(jì)算算法。
致謝:感謝國(guó)家自然科學(xué)基金項(xiàng)目(項(xiàng)目編號(hào):61974082,61704096,61836004)、中國(guó)科協(xié)青年人才托舉工程項(xiàng)目(項(xiàng)目編號(hào):2019QNRC001)、北京腦科學(xué)與類腦研究中心、清華大學(xué)-IDG/麥戈文腦科學(xué)研究院“Brain+X”項(xiàng)目、國(guó)家重點(diǎn)研發(fā)計(jì)劃項(xiàng)目(項(xiàng)目編號(hào):2018YFE0200200)、北京市科技計(jì)劃項(xiàng)目(項(xiàng)目編號(hào):Z181100001518006, Z191100007519009)、蘇州-清華創(chuàng)新引領(lǐng)行動(dòng)專項(xiàng)項(xiàng)目(項(xiàng)目編號(hào):2016SZ0102)以及清華大學(xué)-中電??导瘓F(tuán)有限公司類腦計(jì)算聯(lián)合研究中心的支持。
本文刊登于IEEE Spectrum中文版《科技縱覽》2021年11月刊。
專家簡(jiǎn)介
李黃龍 : 清華大學(xué)精密儀器系/清華大學(xué)類腦計(jì)算研究中心/北京腦科學(xué)與類腦研究中心,副教授 。
楊逸飛: 清華大學(xué)精密儀器系/清華大學(xué)類腦計(jì)算研究中心,在讀博士研究生 。
郭云鵬: 清華大學(xué)精密儀器系/清華大學(xué)類腦計(jì)算研究中心,在讀博士研究生 。
王昕鑫: 清華大學(xué)精密儀器系/清華大學(xué)類腦計(jì)算研究中心,在讀博士研究生 。
孔瑞楷: 清華大學(xué)精密儀器系/清華大學(xué)類腦計(jì)算研究中心,在讀博士研究生 。
何玉寒: 清華大學(xué)精密儀器系/清華大學(xué)類腦計(jì)算研究中心,在讀博士研究生 。
苗辰飛: 清華大學(xué)電子工程系,在讀本科生 。