基于深度強化學習優化藥物洗脫支架中藥物在冠狀動脈中的擴散過程
《International Journal of Pharmaceutics》:Optimization of drug diffusion in drug-eluting stents for coronary artery based on deep reinforcement learning
【字體:
大
中
小
】
時間:2026年03月03日
來源:International Journal of Pharmaceutics 5.2
編輯推薦:
本研究開發了一種基于深度強化學習(DRL)與計算流體動力學(CFD)的智能優化框架,用于調節藥物涂層支架(DES)的藥物釋放參數。通過比較半埋、全埋和非埋三種植入配置,DRL策略在提升治療區域藥物濃度和均勻性的同時,有效控制非治療區域的藥物分布,驗證了其在復雜非線性優化中的可行性和臨床應用潛力。
婁子怡|朱靜|王穎|司欣輝|王偉|張學蘭
北京科技大學數學與物理學院,北京100083,中國
摘要
藥物洗脫支架(DES)被廣泛用于治療冠狀動脈疾病,提高其治療效果一直是長期的研究目標。現有的DES藥物釋放優化策略缺乏自適應、基于學習的框架,這些框架能夠同時提高治療區域的藥物濃度和均勻性,同時調節非治療區域的藥物水平,并且在處理復雜、非線性優化問題時能力有限。本研究應用基于深度強化學習(DRL)的框架來優化DES中的藥物擴散。通過將神經網絡與近端策略優化(PPO)算法相結合,該框架實現了實時閉環、反饋驅動的藥物擴散調節,并顯示出對隨機干擾和參數變化的魯棒性。該方法在三種支架嵌入配置(半嵌入、全嵌入和非嵌入)中進行了系統評估。結果顯示,DRL代理成功平衡了三個治療目標,并針對不同配置采用了不同的控制策略。所有配置的整體性能都有所提升。對于半嵌入配置,DRL策略使治療區域的濃度提高了6.99%,非治療區域的濃度略有上升,治療區域內的均勻性略有下降。在全嵌入配置下,兩個區域的濃度基本保持不變,而治療區域的均勻性提高了8.14%。對于非嵌入配置,治療區域的濃度和均勻性均有所提高(分別提高了2.04%和6.30%),非治療區域的變化可以忽略不計。這些結果證明了DRL在自適應DES優化中的可行性,并突顯了其在患者特定應用和臨床選擇藥物嵌入配置方面的潛力。
引言
冠狀動脈疾病(CAD)是全球主要的死亡原因,主要由動脈粥樣硬化引起,其特征是動脈壁內斑塊積聚,導致管腔狹窄和血流受阻。藥物洗脫支架(DES)已成為CAD的廣泛采用的介入療法,能夠局部釋放藥物以抑制新生內膜增生并降低再狹窄率。盡管DES在臨床上取得了成功,但由于長期植入后支架血栓形成的風險增加,其長期安全性和治療效果的持久性仍存在擔憂。(Escuer等人,2022年;McQueen等人,2021年;Thipparaboina等人,2013年;Vo等人,2018年)。此外,DES中的藥物釋放伴隨著顯著的血流介導的藥物損失,這一現象得到了實驗研究的支持,導致藥物在動脈壁中的滲透不足(Balakrishnan等人,2005年)。DES的治療效果本質上與藥物釋放特性和在動脈組織中的空間分布有關。因此,提高動脈藥物滲透對于改善治療效果至關重要。此外,準確的藥物釋放模型對于系統地描述DES處理后的動脈壁中的藥物分布剖面也是必不可少的。
在過去的二十年里,人們投入了大量努力對DES中的藥物釋放和傳輸過程進行數學建模和數值模擬。早期的研究采用了一維分層模型(Costantini等人,2011年;Lovich和Edelman,1996年)。后來這些模型被擴展到二維和三維的支架-動脈壁模型,以更準確地表示藥物傳輸動態(Kolachalama等人,2009a;Kolachalama等人,2009b;Mongrain等人,2007年;Rikhtegar等人,2016年)。最近的研究納入了動脈壁的多層微結構(Bozsak等人,2015年;Pontrelli和de Monte,2010年),并考慮了藥物-細胞相互作用,包括自由狀態和結合狀態之間的劃分(Zunino,2004年)。一個重要的進展是計算流體動力學(CFD)的整合,它使得藥物釋放動力學、對流-擴散傳輸和局部血液動力環境的高分辨率模擬成為可能,從而便于詳細分析支架表面的藥物釋放和動脈組織內的耦合傳輸。
盡管取得了這些進展,大多數現有模型側重于描述而非自適應、基于學習的優化,這在將模擬輸出轉化為臨床可行的DES參數優化方面存在一個關鍵缺口。傳統的優化方法,如克里金替代模型和無模型隨機(SMF)算法(Bozsak等人,2015年),本質上在預測準確性和算法靈活性之間存在權衡,限制了它們處理高度耦合、非線性參數空間和計算密集型模擬的能力。因此,目前還沒有一個廣泛采用的自適應優化框架能夠系統地解決這一缺口,隨著DES系統在結構和功能上的復雜性增加,開發出魯棒、計算效率高的策略變得迫切需要。
為了解決這一未滿足的需求,新興的機器學習范式提供了有希望的替代方案——其中深度強化學習(DRL)因其獨特的導航復雜、動態優化景觀的能力而脫穎而出(Ito等人,2024年;Ravanji等人,2024年;Viquerat等人,2021年;Viquerat等人,2022年)。DRL在流體力學及相關領域顯示出廣泛的應用性,在主動流控制、溫度調節、形狀優化和參數調整方面做出了顯著貢獻。在流控制方面,已經證明人工神經網絡可以用于優化圓柱體周圍的射流速率(Rabault等人,2019年),并且為二維流動提出了節能策略(Wang和Hang,2025年)。在溫度調節方面,近端策略優化(PPO)與計算流體動力學結合使用,提高了燃氣爐的性能(Ren等人,2021年),這些方法進一步擴展到了三維蛇形加熱器(Renault等人,2023年)。形狀優化已廣泛應用于各種熱系統和流體系統的設計,例如微通道散熱片(Ravanji等人,2025年)、熱交換器(Keramati等人,2022年)和浮動浮標(Lu等人,2025年)。在參數調整方面,研究改進了鎳基合金的定向能量沉積過程參數(Shi等人,2024年),優化了深水立管射流安裝配置(Song等人,2024年),設計了智能城市風捕集器(Zhang等人,2024年),并將深度強化學習與生成對抗網絡結合,以改善室內氣流和照明性能(Shi等人,2025年)。DRL與CFD的整合已經從單一流控制應用(如使用OpenFOAM的DRLinFluids,Wang等人,2022a)發展到多物理場優化框架,如DRLFluent(Mao等人,2023年),該框架通過PyFluent API將DRL與Ansys Fluent耦合。然而,高計算需求和DRL方法的相對不成熟限制了其更廣泛的采用。迄今為止,深度強化學習在DES藥物傳輸和釋放優化中的應用仍然未被探索。
本研究提出了一個由DRL驅動、與CFD耦合的優化框架,用于DES中的持續藥物釋放,為自適應參數調整提供了系統方法,并具有潛在的臨床轉化價值。該模型系統地研究了關鍵參數的聯合效應,包括血液和血管組織中的藥物擴散系數以及血流速度。從臨床角度來看,強調支架植入后藥物在動脈壁內的均勻分布和治療濃度的維持。因此,本研究旨在實現治療區域更高的藥物濃度、非治療區域更低的藥物濃度以及治療區域內更好的濃度均勻性。為了實現這些目標,通過PyFluent API將PPO算法與Ansys Fluent集成。所提出的框架實現了DRL代理與高保真CFD環境之間的實時閉環交互,能夠自適應地調整擴散性和流動特性等關鍵變量,以優化藥物傳輸性能。該框架使得最佳參數組合的系統探索成為可能,顯著提高了藥物輸送效果,并為臨床決策提供了堅實的計算基礎。在此基礎上,本研究對三種支架植入方式——半嵌入、全嵌入和非嵌入配置進行了比較研究。它系統地評估了DRL代理在這些植入形態下對治療藥物濃度和血管壁內藥物分布均勻性的優化效果,從而建立了基于DRL的DES優化的統一評估方法。
方法
本研究旨在通過提高治療區域的藥物濃度、降低非治療區域的藥物濃度以及確保治療區域的藥物均勻分布來優化DES的治療效果。為此,開發了一個耦合的DRL-CFD框架。首先制定了用于模擬體內藥物傳輸和分布的控制方程和數值方案,以確保計算精度。隨后介紹了關鍵的DRL組件,包括
結果與討論
本研究系統地研究了DES,重點關注三個關鍵方面。首先,數值模擬比較了支架植入2000分鐘后三種嵌入配置(半嵌入、全嵌入和非嵌入)的血管腔內和血管壁內的流場。其次,研究了DES的治療效果優化。評估并比較了六種DRL算法。分析深入探討了PPO訓練過程,檢查了獎勵和濃度
結論
本研究開發了一個智能優化框架,將DRL與ANN結合,通過優化DES中的藥物濃度分布來提高CAD治療的長期安全性和臨床效果。主要結論如下:
(1)本研究全面證實了基于DRL的優化框架用于調整藥物洗脫支架(DES)參數的可行性和魯棒性。基于PPO的深度強化學習框架實現了DES的動態優化
CRediT作者貢獻聲明
婁子怡:撰寫 – 審稿與編輯,撰寫 – 原稿,可視化,驗證,軟件,方法論,形式分析,數據整理。朱靜:撰寫 – 審稿與編輯,項目管理,方法論,資金獲取,形式分析,概念化。王穎:監督,項目管理。司欣輝:監督,項目管理。王偉:監督,項目管理。張學蘭:可視化,驗證,方法論,資金獲取,
利益沖突聲明
作者聲明他們沒有已知的競爭財務利益或個人關系可能影響本文報告的工作。
致謝
本工作得到了國家自然科學基金(編號:12471466, 12071075)的支持。
生物通微信公眾號
生物通新浪微博
今日動態 |
人才市場 |
新技術專欄 |
中國科學人 |
云展臺 |
BioHot |
云講堂直播 |
會展中心 |
特價專欄 |
技術快訊 |
免費試用
版權所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
聯系信箱:
粵ICP備09063491號