使用具有記憶增強功能的液態神經網絡進行時間序列分析
《Journal of Visual Communication and Image Representation》:Time series analysis using memory enhanced liquid neural network
【字體:
大
中
小
】
時間:2026年03月02日
來源:Journal of Visual Communication and Image Representation 3.1
編輯推薦:
時間序列模型M-LTC結合記憶神經元和學習神經元,通過吸引子動態存儲長程關系和快速動力學適應短期變化,采用RK4和DOPRI5方法確保數值穩定性,在分類和回歸任務中優于傳統RNN、LSTM及神經ODE模型。
M. Srinivas | Abhijeet Kumar | R.B.V. Subramaanyam
印度計算機科學與工程系
摘要
本文提出了一種新型的循環神經網絡,稱為“記憶增強型液體時間常數網絡”(Memory-Enhanced Liquid Time-Constant Network,簡稱M-LTC)。傳統的時間序列模型在處理短期序列和長期序列組合時效率較低。基于液體時間常數(Liquid Time-Constant,簡稱LTC)網絡的思想,我們的模型包含了一個由記憶神經元和學習神經元組成的雙狀態系統,每個狀態都由受生物學啟發的微分方程控制。記憶神經元利用具有周期性非線性的吸引子動態來存儲和記住長期關系,而學習神經元則利用更快的動態來模擬短期特征。我們使用四階龍格-庫塔(Runge–Kutta 4th order,簡稱RK4)和五階多曼德-普林斯(Dormand–Prince 5th order,簡稱DOPRI5)方法來評估隱藏狀態和記憶狀態,以確保數值模式的穩定性以及時間模式的正確積分。這為當今的時間建模問題提供了一個生物學上合理且計算效率高的解決方案。
引言
為了對現實世界中的序列數據(如傳感器流、人類活動或天氣趨勢)進行建模,需要能夠同時觀察到短期變化和長期關系。傳統模型在這方面存在困難,尤其是在數據存在噪聲、采樣不均勻或行為非線性的情況下。時間序列學習被廣泛應用于健康診斷、自動化系統、智能環境和金融預測等領域。最大的挑戰之一是構建準確且高效的模型來描述事物隨時間的變化。循環神經網絡(Recurrent Neural Networks,簡稱RNN)及其門控版本(如長短期記憶網絡LSTMs和門控循環單元GRUs)在學習序列模式方面表現優異。然而,這些模型的局限性在于它們是離散時間的,對梯度消失敏感,并且具有固定的時間步長轉換。此外,這些模型在處理時間間隔變化或時間連續變化的數據時效果不佳。
受生物學啟發的神經常微分方程(neural ODEs)和液體時間常數(LTC)網絡最近取得了進展,它們能夠將隱藏狀態建模為連續時間微分方程的解。這是一個有前景的選擇。特別是LTC網絡能夠根據輸入的復雜性動態調整神經元的行為,從而實現更富有創造性的時間學習。但由于它們沒有專門的記憶組件,因此無法長時間存儲大量信息。
為了解決這一難題,我們提出了一種新的設計——記憶增強型液體時間常數網絡(Memory-Enhanced Liquid Time-Constant Network,簡稱M-LTC)。該網絡在LTC基礎上加入了基于生物學的記憶機制,使其性能得到提升。在我們的模型中,有兩種類型的神經元:記憶神經元和學習神經元。記憶神經元通過進入吸引子狀態來存儲長期上下文,而學習神經元則對新輸入的變化作出反應。我們使用五階多曼德-普林斯(DOPRI5)方法來精確描述記憶動態的剛性方程,并使用四階龍格-庫塔(RK4)方法來快速更新學習神經元,以實現快速適應。
M-LTC通過這種混合設計實現了自適應的時間抽象和穩定的長期記憶保留功能。我們在多個標準數據集上測試了該模型的性能,發現其在分類和回歸任務中的表現優于傳統的RNN、LSTM和基于神經常微分方程的模型。這些改進使得M-LTC成為處理更復雜時間序列建模的靈活且科學合理的結構。
相關研究
相關工作
傳統的時間序列建模依賴于統計技術,如自回歸積分移動平均(Autoregressive Integrated Moving Average,簡稱ARIMA)及其季節性變體(SARIMA)。這些模型具有可解釋的公式,并適用于線性和平穩數據。然而,它們無法處理復雜的非線性現象,在高維或噪聲環境中表現不佳。
為了解決這些問題,基于神經網絡的方法(如RNN、LSTM和GRU)已被廣泛研究。
提出的方法
在這項研究中,我們提出了一種受生物學啟發的循環神經架構——記憶增強型液體時間常數網絡(Memory-Enhanced Liquid Time-Constant Network,簡稱M-LTC),通過整合基于吸引子動態的新記憶機制,提升了傳統液體時間常數(LTC)網絡的功能。與傳統依賴固定離散更新規則的RNN單元不同,該網絡
數據集描述
所提出的模型已在5個數據集上進行了實驗。每個數據集的序列被分割成重疊的子序列,每個子序列包含32個時間步長。在訓練之前,輸入特征根據訓練集的統計信息被標準化為均值為零、方差為單位值。目標標簽也進行了調整,以便與標準的分類損失函數兼容。對于每個實驗,我們
結果與討論
與基線模型(如LSTM、CT-RNN、N-ODE和LTC)相比,所提出的記憶增強型液體時間常數網絡(M-LTC)在多個時間序列任務中表現出更優的性能。表4總結了M-LTC在平衡長期記憶保留和短期適應性方面的優勢。(見表1。)
在分類任務中,M-LTC在占用率(Occupancy)方面的準確率最高
結論
所提出的記憶增強型液體時間常數網絡(M-LTC)通過結合受生物學啟發的記憶動態和連續時間學習,有效建模了復雜的時間序列數據。通過整合基于吸引子的記憶神經元和自適應時間常數,該模型在多個分類和回歸基準測試中取得了優異的性能。其在平衡長期記憶保留和短期適應性方面的能力使其成為實時應用的理想候選者。
作者貢獻聲明
M. Srinivas:撰寫——審稿與編輯、驗證、監督、項目管理、方法論研究、數據分析、概念化。Abhijeet Kumar:撰寫——初稿撰寫、可視化展示、驗證、監督、軟件開發、資源管理、方法論研究、數據分析、數據整理、概念化。R.B.V. Subramaanyam:撰寫——審稿與編輯、可視化展示、驗證、監督、資源管理、項目管理、方法論研究、數據分析、概念化。
利益沖突聲明
作者聲明他們沒有已知的財務利益沖突或個人關系可能影響本文的研究結果。
致謝
Abhijeet Kumar感謝瓦朗加爾國立技術學院計算機科學系的支持,使本研究得以順利進行。
生物通微信公眾號
生物通新浪微博
今日動態 |
人才市場 |
新技術專欄 |
中國科學人 |
云展臺 |
BioHot |
云講堂直播 |
會展中心 |
特價專欄 |
技術快訊 |
免費試用
版權所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
聯系信箱:
粵ICP備09063491號