《Advanced Science》:Physical Implementation of Optical Material-Based Neural Networks Processing Enabled by Long-Persistent Luminescence
編輯推薦:
這篇研究論文提出并驗證了利用長余輝發(fā)光(Long-persistent luminescence, LPL)材料作為新型光學人工突觸物理基底的創(chuàng)新方案。研究人員采用AGa2O4(A = Mg, Ca, Sr, Ba)發(fā)光氧化物,利用其本征缺陷態(tài)實現(xiàn)優(yōu)異的LPL特性,無需復雜材料工程。通過調控入射紫外光脈沖參數,可以精確調制材料的發(fā)光強度和衰減動力學,從而在單一LPL材料內實現(xiàn)光學激勵、記憶保留和動態(tài)信號調制。研究首次物理實現(xiàn)了基于LPL材料的神經形態(tài)計算,包括物理神經網絡(Physical Neural Network, PNN)和物理儲層計算(Physical Reservoir Computing, PRC),并成功應用于實時Pong游戲決策和手寫數字識別任務。該工作展示了LPL材料作為一種多功能平臺,在開發(fā)高速、高帶寬、低能耗的下一代全光學神經形態(tài)系統(tǒng)方面的巨大潛力。
文章內容歸納總結
引言
神經形態(tài)計算模仿人腦的并行處理能力,已成為克服傳統(tǒng)馮·諾依曼架構瓶頸和能效低下的有前途的替代方案。其中,光神經形態(tài)器件因其高速、大帶寬和最小信號串擾等優(yōu)勢而備受關注。然而,實現(xiàn)一個實用且可擴展的光子神經形態(tài)平臺,需要能夠在單一系統(tǒng)內同時執(zhí)行光學激發(fā)、記憶保留和動態(tài)信號調制的材料。
本研究提出并探索了一種利用長余輝發(fā)光(Long-persistent luminescence, LPL)材料作為光學人工突觸物理基底的新方法。LPL現(xiàn)象涉及激發(fā)電子被捕獲在本征缺陷態(tài)中,隨后通過熱釋放,產生持續(xù)余輝。這種固有的記憶效應直接模擬了生物突觸可塑性。至關重要的是,可以通過控制入射紫外光脈沖的參數(如強度、持續(xù)時間和頻率)來精確調制發(fā)光強度和衰減動力學。這種動態(tài)可調諧性使得LPL材料能夠在純光學領域模擬關鍵的突觸功能。
研究人員采用了無摻雜的AGa2O4(AGO,其中A = Mg, Ca, Sr, Ba)氧化物,這些材料在紫外激發(fā)下表現(xiàn)出優(yōu)異的LPL特性。利用這種固有的持久性,研究人員物理實現(xiàn)了一種基于光學材料的神經網絡,能夠進行實時神經形態(tài)計算。該系統(tǒng)在單個基于LPL的材料平臺內集成了光學激發(fā)、記憶保留和信號讀出。作為概念驗證,該系統(tǒng)通過光驅動信號處理,在Pong游戲任務中執(zhí)行了實時決策。此外,研究還展示了基于LPL的光電器件在實現(xiàn)兩種關鍵神經形態(tài)架構方面的多功能性:物理儲層計算和物理深度神經網絡。
結果
AGO的光致發(fā)光與長余輝發(fā)光特性
在討論突觸功能之前,首先考察了AGO樣品的光致發(fā)光(Photoluminescence, PL)特性,以確立其基本的發(fā)光行為。所有樣品在紫外激發(fā)下都表現(xiàn)出獨特的發(fā)射光譜。例如,MGO、CGO、SGO和BGO的PL峰分別位于420納米、456納米、390納米和420納米附近。這些氧化物中的發(fā)光源于本征缺陷態(tài)(如氧空位或鎵-氧空位對)中的電子-空穴復合,無需任何外部摻雜劑。從熱釋光(Thermoluminescence, TL)特性估計,陷阱深度約為0.76至0.90電子伏特。
值得注意的是,AGO樣品表現(xiàn)出強烈的LPL特性,這是實現(xiàn)本研究所探索的光學突觸功能的關鍵性質。經過5分鐘的紫外光照射后,所有AGO樣品都表現(xiàn)出強烈且持久的余輝發(fā)射。這種LPL行為源于本征陷阱態(tài)充當電子和空穴的捕獲中心。在紫外激發(fā)期間,電子和空穴被產生并隨后被缺陷陷阱態(tài)捕獲。激發(fā)停止后,被捕獲的載流子被熱釋放并在發(fā)光中心輻射復合。廣泛的缺陷態(tài)分布提供了一個陷阱景觀,自然地產生非線性和衰減記憶,可被用于突觸可塑性、儲層類型的時間處理和激活類行為,而無需額外的電路元件。
AGO的基本突觸行為:基于脈沖時序/持續(xù)時間的信號編碼
基于已建立的發(fā)光機制,研究人員展示了利用底層發(fā)光過程的突觸功能。突觸功能的本質涉及將引入的信號轉換為模擬生物突觸的模擬響應。通過LPL實現(xiàn)這種行為,研究提出了兩種實現(xiàn)突觸信號編碼的基本方法。
第一種方法是脈沖時序編碼法,它利用兩個連續(xù)的紫外脈沖激發(fā)來增強發(fā)光強度。這個概念基于依賴于兩個紫外脈沖之間時間間隔的增強變化,即配對脈沖易化(Paired-pulse facilitation, PPF)。第二種方法是基于脈沖持續(xù)時間的信號編碼法,通過調整脈沖寬度來改變發(fā)光的最大強度。通過這種方式,突觸編碼可以僅通過光學控制激發(fā)脈沖的時序和持續(xù)時間來編程。
為了驗證這些方法,研究人員通過改變時間間隔和脈沖寬度兩個參數來檢查樣品的突觸可塑性。PPF被定義為第二個脈沖與第一個脈沖的發(fā)光峰值強度之比。實驗結果表明,在固定的脈沖寬度下,更短的時間間隔會產生更強的增強。例如,在1毫秒間隔和2.5毫秒脈沖寬度下,增強達到了181.57%,但在2000毫秒間隔時逐漸降至105.67%。此外,在多脈沖條件下,隨著脈沖頻率的增加(即脈沖之間的時間間隔縮短),MGO表現(xiàn)出明顯的增強增加。當頻率從1赫茲增加到150赫茲時,最大增強值從130.3%增加到663.5%。
利用紅外照射對基于LPL的突觸發(fā)光進行狀態(tài)重置
為了確;贚PL的突觸系統(tǒng)可靠且可重復地運行,研究人員引入了紅外輔助的狀態(tài)重置機制。在并行或重復的信號編碼中,前一次操作殘留的LPL發(fā)光可能會干擾后續(xù)處理。因此,實現(xiàn)有效的狀態(tài)重置機制對于實用的神經形態(tài)器件是必要的。
實驗發(fā)現(xiàn),在沒有重置處理的情況下,連續(xù)重復50次PPF操作,第一次峰值、第二次峰值和殘余背景信號都隨著重復次數的增加而增加,導致干擾和累積偏差。為了解決這個問題,研究人員在連續(xù)周期之間應用了50毫秒的紅外照射。引入這個紅外照射步驟有效地釋放了周期之間被捕獲的載流子,從而重置了發(fā)光狀態(tài)。50次帶有紅外狀態(tài)重置的重復PPF周期產生了高度一致和穩(wěn)定的響應,所有參數幾乎保持不變。這證實了該重置程序的有效性,并表明紅外照射將發(fā)光信號降低到基線噪聲水平,并抑制了后續(xù)操作中歷史相關的干擾。
用于實時Pong游戲的物理神經網絡實現(xiàn)
研究人員利用基于LPL的突觸架構,演示了物理神經網絡的實現(xiàn)。該架構將材料中LPL強度的變化用作激活函數后的突觸響應的直接物理因素。通過調制入射紫外光脈沖的參數來精確編程這一點。由此產生的峰值發(fā)射隨后被光學讀出作為突觸輸出,構成了基于光學材料的神經計算的基礎。
為了驗證這種實際實現(xiàn),研究人員選擇了經典視頻游戲Pong作為代表性任務,因為它結構簡單、規(guī)則清晰且可視化直觀。Pong游戲需要實時決策,是驗證PNN功能的理想任務。所需的PNN可以以最小的配置實現(xiàn),即一個簡單的4x3神經網絡,沒有隱藏層。輸入層包含四個節(jié)點,對應球的x和y坐標、球拍的x坐標以及球沿x軸的速度。輸出層包含三個節(jié)點,代表可能的球拍移動:左移、右移和停止。
控制Pong玩家的神經網絡的權重和偏置矩陣是預先在個人計算機上通過模擬,使用從MGO樣品獲得的PPF響應曲線進行訓練的。PPF信號被用作網絡的激活函數。PNN的操作配置包括一個集成的紫外/紅外LED-MGO-光電二極管傳感器模塊,與LED控制電路、信號記錄板和電源供應器耦合,所有這些都通過基于MATLAB的控制框架與個人計算機接口。通過這個接口,每個物理通道被獨立處理,展示了PNN架構固有的并行性。
演示視頻展示了由基于LPL的PNN驅動的實時Pong游戲。在視頻中,左上角面板顯示神經網絡架構,右上角面板顯示Pong游戲畫面,左下角面板顯示從樣品獲得的實時PPF信號,右下角面板顯示由攝像機捕捉的PNN工作臺的實時記錄;贚PL的PNN成功地進行了實時推斷,并達到了100分的最終得分。結果表明,該PNN有效地實現(xiàn)了基于LPL的實時決策。
用于實時手寫數字識別的物理深度神經網絡和物理儲層計算實現(xiàn)
隨后,研究人員將基于LPL的突觸架構擴展到更高級的神經形態(tài)計算框架,特別是物理深度神經網絡和物理儲層計算。為了驗證這種能力,采用了MNIST手寫數字識別任務作為代表性基準。LPL的尺度不變記憶行為有利于儲層計算。在RC中,計算能力源于衰減記憶和非線性之間的平衡;純線性系統(tǒng)會嚴重限制儲層狀態(tài)空間的豐富性。
為了實現(xiàn)PRC,研究采用了一種驅動垂直和水平對齊特征提取的簡單方法。手寫圖像由28x28的二進制矩陣組成。研究人員提取了28個垂直一維數據點和28個水平一維數據點。隨后,處理后的圖像數據在預定義的時間窗口內轉換為開關序列。每個像素映射到2毫秒的時間槽,從而實現(xiàn)對空間信息的時間編碼。使用這種方法,生成了56個不同的開關序列,對應于像素列。這些時間編碼的脈沖序列隨后被引入到基于LPL的突觸架構中,產生獨特的LPL響應,反映了原始輸入模式的時空特征。通過捕獲每個LPL響應的最大強度,開關序列被轉換為一維向量。研究人員在整個MNIST數據集上進行了這個PRC過程,為后續(xù)的手寫數字識別任務做準備。
基于此框架,研究人員開發(fā)了用于實時手寫數字識別的PDNN。PDNN代表了比簡單PNN在結構上的進步。雖然兩種架構都依賴于物理信號編碼和通過突觸加權的模擬計算,但PDNN包含一個或多個隱藏層,以實現(xiàn)分層特征提取。這個額外的深度對于解決更復雜的分類任務至關重要,其中非線性和抽象是必不可少的。
研究人員構建了PDNN作為一個58x32x10的神經網絡,具有輸入層、隱藏層和輸出層結構。PDNN被設計為適合PRC處理后的模式數據。PDNN中的激活函數是使用基于脈沖持續(xù)時間的信號編碼方法實現(xiàn)的。盡管當前的網絡訓練和推斷是在計算上實現(xiàn)的,但研究人員特意使用從測量的材料響應推導出的激活函數來評估物理實現(xiàn)的可行性。通過這種方式,激活函數在概念上連接了實驗測量的器件物理與神經網絡功能,表明材料響應可以支持所需的非線性映射,而不依賴于算法方法。
在PDNN的預訓練中,研究人員使用激活函數的擬合曲線作為激活函數。在預訓練過程中采用了反向傳播技術。模擬結果顯示,經過100輪訓練后,PDNN達到了88.72%的準確率。為了定量評估PDNN系統(tǒng)的性能,研究人員使用MNIST中的1000個驗證數據集進行了額外的硬件級驗證,達到了84.4%的準確率。
演示視頻展示了使用PRC和PDNN系統(tǒng)進行手寫數字識別的完整推斷過程。在視頻中,用戶手動書寫數字“3”作為實時輸入,而非使用預加載的數據集。系統(tǒng)成功地識別了輸入模式,輸出層中對應數字“3”的節(jié)點顯示出最高的激活值。
在當前的設置中,使用了單個基于LPL的突觸器件,因此56維特征向量是通過時間復用的激發(fā)順序獲取的。這使得總推斷時間受到脈沖持續(xù)時間和額外重置窗口的限制。然而,所提出的計算方案本質上與空間并行兼容。在由基于LPL的突觸像素陣列組成的擴展架構中,特征提取所需的56個激發(fā)序列可以并行傳遞和讀出,從而將每個圖像的有效推斷時間減少到單個激發(fā)-讀出周期。
討論
本研究引入了LPL材料作為光學人工突觸的新型物理基底,并演示了基于LPL的突觸架構的物理實現(xiàn)。研究人員采用了AGa2O4發(fā)光氧化物,由于其本征缺陷態(tài),這些材料表現(xiàn)出優(yōu)異的LPL特性。AGO的發(fā)光強度可以通過控制紫外激發(fā)脈沖的參數進行精確調節(jié),從而能夠直接模擬生物突觸中觀察到的突觸可塑性。研究人員通過將信息編碼為脈沖時序和脈沖持續(xù)時間依賴的LPL響應來實現(xiàn)突觸信號處理,實現(xiàn)了同步的光學突觸操作,并為物理深度神經網絡和物理儲層計算鋪平了道路。
重要的是,研究表明,與殘余發(fā)光相關的潛在限制通過紅外輔助的狀態(tài)重置協(xié)議得到了積極緩解,該協(xié)議加速了解捕獲過程,并在操作之間恢復了基線狀態(tài)。因此,系統(tǒng)在連續(xù)操作期間通過有效解耦記憶保留和響應速度,保持了穩(wěn)定和響應迅速的行為。在此基礎上,研究人員成功地將突觸權重編碼為發(fā)光狀態(tài),演示了硬件級推斷。值得注意的是,這些基于LPL的PNN和PDNN架構提供了固有的并行性,這是實現(xiàn)可擴展神經形態(tài)系統(tǒng)的關鍵優(yōu)勢。基于LPL的系統(tǒng)的性能通過代表性任務得到了驗證,包括實時Pong游戲和高精度MNIST手寫數字識別。在Pong游戲中,基于光學材料的PNN自主掌握了游戲,并達到了100分的完美得分。組合的PDNN和PRC架構在MNIST手寫數字識別任務的物理操作中實現(xiàn)了超過84.4%的出色準確率。這些發(fā)現(xiàn)表明,基于LPL的系統(tǒng)不僅僅是一個概念驗證,而且是開發(fā)下一代光學神經形態(tài)硬件的多功能且強大的平臺。
實驗部分
AGa2O4樣品是使用固態(tài)反應方法合成的。使用高純度的MgO、SrCO3、CaCO3、BaCO3和Ga2O3作為原料;旌戏勰┙涍^研磨,在500°C下煅燒3小時,然后在1300°C下燒結10小時。為了將制備的粉末嵌入聚二甲基硅氧烷基質中,將PDMS和固化劑以3:7的比例混合并攪拌以獲得硅膠前體。AGO粉末以1:1的重量比與硅膠前體混合。隨后,將混合物緩慢倒入方形模具中直至完全覆蓋。樣品在真空室中靜置30分鐘以消除攪拌產生的氣泡。最后,將帶有樣品的模具在50°C下預熱1小時以硬化。
材料表征包括X射線衍射、掃描電子顯微鏡、能量色散X射線光譜、光致發(fā)光光譜、光致發(fā)光激發(fā)光譜、光致發(fā)光量子產率測量以及紫外脈沖誘導發(fā)光響應的記錄。為了演示PRC和PDNN,使用了峰值波長為250納米的商用紫外LED作為激發(fā)源,峰值波長為1050納米的商用紅外LED用于狀態(tài)重置功能。集成的實驗工作臺按照紫外/紅外LEDs/MGO/光電二極管光傳感器的順序結構化,并帶有塑料導向支撐結構。PRC和PDNN操作由基于MATLAB的代碼框架驅動。