《Applied Mathematical Modelling》:DeepONet-Based Operator Learning for Quantifying Escape Dynamics and Most Probable Transition Paths in Stochastic Dynamical Systems
編輯推薦:
針對隨機動力系統中逃逸現象和過渡路徑的高效求解問題,提出基于深度算子網絡的參數化方法,通過單次訓練實現連續參數空間的高精度、高效率求解,并創新性引入反射邊界條件,驗證了其在復雜系統中的優越性。
Jiaqian Zhao|Ao Zhang|Ming Yi|Xiaoli Chen
中國地質大學數學與物理學院,武漢,430074,中國
摘要
在隨機動力系統的研究中,量化噪聲驅動的逃逸現象和轉移路徑對于理解亞穩態之間的轉換至關重要。諸如平均首次退出時間、逃逸概率和最可能的轉移路徑等關鍵指標為這些過程提供了重要的洞察。然而,傳統的數值方法(包括蒙特卡洛模擬和有限差分方法)在計算效率和泛化能力方面存在不足,尤其是在處理具有連續參數變化的系統時。此外,現有的深度學習框架(如基于物理信息的神經網絡)在參數變化時需要重新訓練,這嚴重限制了它們在復雜動態參數系統中的性能。為了解決這些挑戰,本文提出了一種基于深度算子網絡的新解決方案框架。該框架旨在高效解決連續參數空間中的隨機系統的逃逸問題和轉移路徑。通過將隨機微分方程中的漂移項和噪聲強度參數化,該框架構建了從參數空間到解算子的顯式映射,從而消除了參數變化時重新訓練的需要。此外,本文創新地將反射邊界條件集成到隨機基因調控系統的逃逸分析中,為研究基因轉錄動態提供了全新的分析范式。一系列數值實驗表明,該框架具有高精度、卓越的計算效率和強大的泛化能力。本研究成功地將算子學習與隨機動力學相結合,為揭示復雜隨機系統的演化規律提供了高效且通用的工具。
引言
在隨機動力系統領域,亞穩態之間的轉換機制長期以來一直是學者們的研究重點[1]、[2]。當受到隨機噪聲的干擾時,系統不再局限于單一的穩定狀態,而是可以在不同的亞穩態之間動態切換[3]、[4]。探索系統如何從一個穩態逃逸到另一個穩態或退出特定區域是研究逃逸現象和狀態轉換的核心。隨著研究的進展,對平均首次退出時間(MFET)、逃逸概率(EP)和最可能的轉移路徑(MPTP)的定量分析已成為揭示隨機動力系統演化機制的關鍵工具。準確表征這些指標不僅對于理解隨機系統的動態特性至關重要,而且在流體力學[5]、聚合物動力學[6]、生態學[7]、環境科學[8]和遺傳學[9]等領域也具有重要的實際價值。
為了量化隨機系統中的逃逸現象和狀態轉換,已經開發了幾種經典的數值方法。在計算MFET和EP時,廣泛使用了蒙特卡洛(MC)模擬[10]、有限差分方法(FDM)[11]和有限元方法(FEM)[12]、[13]。Higham等人[14]提出了一種多層MC方法,用于高效解決高斯噪聲驅動系統的MFET問題。Gao等人[15]使用FDM完成了Lévy噪聲驅動系統中MFET和EP的精確計算。Patie等人[16]將FEM應用于高維擴散過程中的逃逸問題。在MPTP求解領域,字符串方法[17]和自適應最小作用量方法[18]是常用的策略。Chao和Duan[19]在Onsager-Machlup框架下進一步整合了歐拉-拉格朗日方程和射擊方法,為隨機系統中的MPTP分析提供了新的范式。然而,盡管這些傳統方法在特定場景下表現良好,但它們存在不可忽視的局限性。隨著時間步長的縮小或樣本量的增加,MC方法的計算成本急劇上升。FDM由于依賴于結構化網格而在處理參數動態時遇到困難。FEM在處理網格變形和累積重構誤差時也面臨挑戰。此外,大多數MPTP方法嚴重依賴于初始條件和參數,缺乏滿足復雜隨機系統高效分析需求的泛化能力。
隨著計算技術的進步,機器學習方法為高效解決逃逸問題開辟了新的途徑。基于物理信息的神經網絡(PINNs)[20]將偏微分方程(PDE)約束嵌入到損失函數中,使得在噪聲數據下能夠穩健求解。Liu等人[21]利用PINNs框架高效解決了逃逸現象的正向和逆向問題。此外,Li[22]、Chen[23]和Khoo[24]等學者通過機器學習框架快速計算了傳遞函數,為逃逸現象的研究注入了新的思路。這些方法在特定場景中取得了突破性進展,有效提高了某些逃逸問題的解決效率。然而,它們都高度依賴于特定的PDE實例:當面對復雜隨機系統參數的動態變化時,必須重新訓練網絡以獲得相應的解。
近年來,用于參數化PDE解算子的學習方法成為研究熱點。經過一次訓練后,這些方法可以通過網絡前向傳播快速解決不同參數配置下的PDE問題。其中,深度算子網絡(DeepONet)[25]和傅里葉神經算子(FNO)[26]是該領域中突出的代表模型。DeepONet通過分離主干網絡和分支網絡可以直接解決一類PDE實例。它不需要對輸出函數進行離散化,支持任意類型的網格,并在結構靈活性和廣泛應用性之間取得了平衡[27]。相比之下,FNO通過傅里葉空間積分核參數化和快速傅里葉變換實現了高效計算。雖然在固定分辨率的規則場景中具有出色的推理速度,但它需要輸入-輸出離散化,并且僅限于笛卡爾網格和相同維度的域。根據Kovachki等人的研究[28],FNO的連續形式等同于具有特定分支架構和三角基主干網絡的DeepONet。此外,DeepONet的各種變體(例如,Fourier-DeepONet [29]、Geom-DeepONet [30]、S-DeepONet [31]、Quantum-DeepONet [32])在泛化能力、解的準確性和不確定性量化方面顯示出顯著的優勢[33]、[34]。
在分析動態參數場景下復雜隨機系統的逃逸問題和轉移路徑時,傳統的數值方法和某些機器學習方法的效率較低,泛化能力較弱,并且在參數變化時需要重新計算。因此,迫切需要一種可以直接將參數空間映射到解算子的通用方法,從而高效分析逃逸現象和轉移路徑。鑒于DeepONet出色的靈活性和通用性,本文提出了一種基于DeepONet的解決方案框架(圖1)。該框架旨在在復雜、可變的連續參數場景下高效解決MFET、EP和MPTP,從而為多個領域的隨機系統的定量分析提供有力支持。本研究的核心貢獻如下:
• 通過將隨機微分方程(SDEs)的漂移項或噪聲強度作為輸入參數化到DeepONet的分支網絡中,我們實現了在整個參數空間內通過單次訓練高效解決逃逸問題和轉移路徑。這克服了傳統數值方法和機器學習方法(例如PINNs)對特定參數配置的依賴性。
• 我們對三種復雜性和維度逐漸增加的典型隨機系統進行了數值驗證,并創新地將反射邊界條件引入生物系統的逃逸分析中。這充分驗證了所提出框架在解決MFET、EP和MPTP方面的高精度、高效性和強大泛化能力。
• 利用DeepONet的高效求解能力,我們深入揭示了噪聲強度和動態參數如何調節系統的逃逸行為和轉移路徑。這為研究復雜隨機系統的演化機制提供了可靠的工具。
本文的結構如下:第2節首先介紹了隨機系統的基礎知識,簡要介紹了隨機動力學中的逃逸問題和最可能的轉移路徑,并概述了DeepONet的核心原理及其在解決逃逸現象中的應用。第3節通過一系列數值實驗驗證了DeepONet在連續參數場景下解決隨機系統逃逸問題的有效性和優越性。最后,第4節總結了本研究的主要發現并概述了潛在的未來研究方向。
節選
初步知識
考慮以下伊藤隨機微分方程(SDE):
d X t = f ( X t ) d t + σ ( X t ) d B t , X 0 = x 0 ∈ R n ,
X t ∈ R n
X 0 = x 0
f : R n → R n
σ : R n → R
( Ω , F , P )
為了確保SDE(1)解的存在性和唯一性,f 和σ 必須滿足全局Lipschitz性和線性增長條件
數值模擬
我們對三種復雜性和維度逐漸增加的隨機系統進行了數值模擬,以系統地驗證基于DeepONet的算子學習框架在解決具有連續參數的逃逸問題時的準確性、效率和泛化能力。首先,對于1D隨機基因調控系統,我們以轉錄因子激活劑的濃度作為研究對象,揭示了噪聲的調控機制
總結
深入分析隨機動力系統中亞穩態轉換的內在動態機制是揭示復雜系統演化規律的核心。它還為多個領域的隨機系統的定量分析提供了理論支持。本文重點關注高效解決隨機系統中的平均首次退出時間、逃逸概率和最可能的轉移路徑,從而探討了深度學習方法的應用挑戰
CRediT作者貢獻
Jiaqian Zhao: 概念化(同等貢獻);方法論(同等貢獻);軟件(同等貢獻);形式分析(同等貢獻);撰寫-原始草稿(同等貢獻);撰寫-審閱與編輯(同等貢獻)。Ao Zhang: 方法論(同等貢獻);驗證(同等貢獻);撰寫-審閱與編輯(同等貢獻)。Ming Yi: 概念化(同等貢獻);資金獲取(同等貢獻);驗證(同等貢獻);調查(同等貢獻);撰寫-審閱與編輯(同等貢獻)。Xiaoli Chen: 概念化(同等貢獻);資金獲取(同等貢獻);方法論(同等貢獻);項目
CRediT作者貢獻聲明
Jiaqian Zhao: 撰寫 – 審閱與編輯,撰寫 – 原始草稿,軟件,方法論,數據管理。Ao Zhang: 撰寫 – 審閱與編輯,方法論,調查。Ming Yi: 撰寫 – 審閱與編輯,項目管理,方法論,資金獲取。Xiaoli Chen: 撰寫 – 審閱與編輯,撰寫 – 原始草稿,方法論,調查,資金獲取。
利益沖突聲明
作者聲明他們沒有已知的可能會影響本文所述工作的競爭性財務利益或個人關系。