基于結(jié)構(gòu)重新參數(shù)化的多分支注意力網(wǎng)絡(luò)在MRI圖像超分辨率重建中的應(yīng)用
《Biomedical Signal Processing and Control》：Structural reparameterization-based multi-branch attention network for MRI image super-resolution reconstruction
【字體：
大
中
小
】
時間：2026年03月03日
來源：Biomedical Signal Processing and Control 4.9
編輯推薦：
本文提出基于結(jié)構(gòu)重參數(shù)化的多分支注意力超分辨率網(wǎng)絡(luò)（RepMASR），通過訓(xùn)練時復(fù)雜架構(gòu)與推理時單路徑簡化平衡精度與效率，結(jié)合雙自注意力機(jī)制捕捉長程依賴，在腦部MRI等醫(yī)學(xué)數(shù)據(jù)集上驗證其PSNR和SSIM指標(biāo)優(yōu)于經(jīng)典及先進(jìn)模型，同時保持穩(wěn)定計算效率。
英英·刁 | 曾澤 | 陳冰薇
東南大學(xué)公共衛(wèi)生學(xué)院生物統(tǒng)計學(xué)系，南京 210009，中國
摘要
圖像超分辨率技術(shù)在醫(yī)學(xué)成像中的應(yīng)用具有實際意義，因為它能夠在不需要額外掃描的情況下生成高質(zhì)量、高分辨率的圖像。最近，基于卷積神經(jīng)網(wǎng)絡(luò)（CNN）的方法顯著提高了超分辨率重建的性能；然而，這些方法伴隨著較高的計算成本。為了解決這一限制，我們提出了一種具有結(jié)構(gòu)重參數(shù)化的多分支注意力超分辨率網(wǎng)絡(luò)（RepMASR），旨在在重建精度和推理效率之間實現(xiàn)平衡。具體來說，引入了一個靈活的多分支殘差塊（MRB），該塊在訓(xùn)練過程中通過多分支架構(gòu)進(jìn)行深度特征提取。在推理階段，通過結(jié)構(gòu)重參數(shù)化，MRB被等效地重構(gòu)為僅包含3×3卷積核的簡化單路徑配置，從而簡化了網(wǎng)絡(luò)并加快了計算速度。此外，采用長跳躍連接和內(nèi)部恒等映射的迷你設(shè)計使得淺層和深層特征能夠被重用，提高了穩(wěn)定性。引入了雙重自注意力機(jī)制（DSM），以自適應(yīng)地細(xì)化特征，提高感知保真度。最后，使用亞像素卷積進(jìn)行上采樣以生成高分辨率輸出。RepMASR在三個醫(yī)學(xué)數(shù)據(jù)集上進(jìn)行了評估，包括一個精神分裂癥數(shù)據(jù)集，并與六個經(jīng)典超分辨率模型和三個最新的先進(jìn)方法進(jìn)行了比較。結(jié)果表明，RepMASR在保持穩(wěn)定效率的同時，實現(xiàn)了相對較高的PSNR和SSIM值，表明其在醫(yī)學(xué)成像中的潛力。
引言
隨著信息技術(shù)的快速發(fā)展，超分辨率和圖像重建技術(shù)已廣泛應(yīng)用于圖像處理[1]、[2]、[3]、[4]、[5]、[6]、[7]。作為關(guān)鍵的醫(yī)學(xué)成像方式，磁共振成像（MRI）在檢測患有腦部疾病的患者的大腦微結(jié)構(gòu)異常方面起著至關(guān)重要的作用[8]。然而，腦部MRI圖像的獲取受到設(shè)備限制、患者運(yùn)動和采集時間的影響[9]，導(dǎo)致獲取的圖像分辨率較低，醫(yī)療信息缺失，這影響了醫(yī)生的臨床診斷。此外，獲取高分辨率的腦部MRI圖像通常需要更復(fù)雜的操作技術(shù)和昂貴的儀器[10]。因此，為了降低成像成本并提高診斷準(zhǔn)確性，針對腦部MRI的超分辨率（SR）技術(shù)的研究受到了越來越多的關(guān)注。
目前，與雙三次插值和迭代算法等傳統(tǒng)方法相比，基于卷積神經(jīng)網(wǎng)絡(luò)（CNN）的腦部MRI超分辨率方法取得了顯著更好的性能[11]、[12]、[13]、[14]。然而，獲得更高性能通常伴隨著復(fù)雜的網(wǎng)絡(luò)框架[15]、[16]、[17]、[18]、[19]。因此，輕量級的腦部MRI超分辨率網(wǎng)絡(luò)成為了一個重要的研究焦點(diǎn)。李等人（2021年）[20]提出了一種輕量級網(wǎng)絡(luò)，通過在網(wǎng)絡(luò)主干中加入側(cè)向抑制塊來實現(xiàn)快速訓(xùn)練和準(zhǔn)確推理，當(dāng)圖像放大系數(shù)較小時，這些塊可以抑制網(wǎng)絡(luò)探索更深層圖像信息的能力。李等人（2023年）[21]提出了一種帶有全局級聯(lián)模塊的輕量級生成對抗網(wǎng)絡(luò)，以減少網(wǎng)絡(luò)參數(shù)。盡管這些輕量級方法在減小網(wǎng)絡(luò)規(guī)模和提高速度方面取得了一些改進(jìn)，但在性能方面可能仍存在權(quán)衡[22]。因此，采用一種新的視角來分離訓(xùn)練和推理階段之間的模型結(jié)構(gòu)具有很大的潛力，從而避免這種權(quán)衡。
為了解決上述問題，我們提出了一種基于結(jié)構(gòu)重參數(shù)化的多分支注意力超分辨率（RepMASR）網(wǎng)絡(luò)。它在訓(xùn)練過程中采用復(fù)雜的架構(gòu)進(jìn)行深度特征提取，并在推理過程中壓縮模型以提高效率。為了便于淺層和深層特征的重用，提出了一種緊湊的模塊設(shè)計。此外，考慮到腦部MRI圖像包含大量無信息量的黑色區(qū)域，以及卷積神經(jīng)網(wǎng)絡(luò)在捕獲長距離依賴關(guān)系方面的能力有限，我們引入了雙重自注意力機(jī)制（DSM）以實現(xiàn)自適應(yīng)和迭代的特征細(xì)化。
本研究的主要貢獻(xiàn)總結(jié)如下：
(1)首次引入結(jié)構(gòu)重參數(shù)化技術(shù)來設(shè)計用于醫(yī)學(xué)圖像超分辨率的多分支殘差塊（MRB）。
(2)在MRB的淺層和深層架構(gòu)中提出了迷你設(shè)計，通過加入外部長跳躍連接和內(nèi)部密集短跳躍連接來增強(qiáng)特征的重用。
(3)引入雙重自注意力機(jī)制（DSM）以自適應(yīng)地捕獲長距離依賴關(guān)系，細(xì)化特征表示，并使網(wǎng)絡(luò)能夠恢復(fù)更詳細(xì)的圖像信息。
部分片段
結(jié)構(gòu)重參數(shù)化研究
結(jié)構(gòu)重參數(shù)化技術(shù)的目標(biāo)是將給定模型的參數(shù)轉(zhuǎn)換為結(jié)構(gòu)耦合模型的不同參數(shù)集，以實現(xiàn)網(wǎng)絡(luò)精度和速度之間的平衡。近年來，一些重要的研究，如RepVGG [23]，使用了結(jié)構(gòu)重參數(shù)化來重新配置VGG風(fēng)格的架構(gòu)，提高了模型性能并加快了計算速度。Diverse Branch Block [23] 設(shè)計了一個類似Inception的架構(gòu)[24]
概述
所提出方法的總體架構(gòu)如圖1所示。RepMASR的四個主要組成部分如下：
(1) 淺層特征提取層由64個9×9大小的卷積核組成，后面跟著一個參數(shù)化修正線性單元（PReLU）[32]激活函數(shù)。它可以在模型的淺層對LR輸入圖像進(jìn)行相對全局的特征提取。(2) 深層特征提取層由22個多殘差塊（MRBs）（第3.2節(jié)）組成。
結(jié)論
本文提出了一種基于結(jié)構(gòu)重參數(shù)化的多分支注意力網(wǎng)絡(luò)（RepMASR），在醫(yī)學(xué)圖像超分辨率方面取得了顯著改進(jìn)。在訓(xùn)練階段，RepMASR采用復(fù)雜的多分支架構(gòu)和迷你設(shè)計從醫(yī)學(xué)圖像中提取豐富和詳細(xì)的特征。在測試階段，RepMASR利用結(jié)構(gòu)重參數(shù)化將多分支架構(gòu)轉(zhuǎn)換為一系列3×3的單分支網(wǎng)絡(luò)
利益沖突聲明
作者聲明他們沒有已知的競爭性財務(wù)利益或個人關(guān)系可能會影響本文報告的工作。
生物通微信公眾號
生物通新浪微博
- 搜索
- 國際
- 國內(nèi)
- 人物
- 產(chǎn)業(yè)
- 熱點(diǎn)
- 科普
今日動態(tài) |
人才市場 |
新技術(shù)專欄 |
中國科學(xué)人 |
云展臺 |
BioHot |
云講堂直播 |
會展中心 |
特價專欄 |
技術(shù)快訊 |
免費(fèi)試用
版權(quán)所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
聯(lián)系信箱：
粵ICP備09063491號
