《Physiological and Molecular Plant Pathology》：MNCM: Hybrid Attention MobileNet for Wheat (Triticum aestivum L.) Disease Identification
編輯推薦：
小麥病害輕量級識別模型MNCM通過通道優(yōu)先卷積注意力優(yōu)化局部特征，結(jié)合多頭自注意力機制捕捉長程依賴，在7493張圖像測試集上達到97.49%準確率，優(yōu)于OverLoCK-B、MobileMamba和ConvNeXt。
寧莉|劉陽軒|Madineh Bijani|吳龍國|杜曉杰|徐來祥
平頂山大學(xué)信息工程學(xué)院，中國平頂山467000
摘要
小麥是全球重要的主食作物，對糧食安全和農(nóng)業(yè)可持續(xù)性至關(guān)重要。其生產(chǎn)經(jīng)常受到葉銹病、Septoria病和白粉病等葉部疾病的威脅，這些疾病會嚴重降低產(chǎn)量和谷物質(zhì)量。因此，準確及時地識別這些疾病對于有效的作物管理和損失預(yù)防至關(guān)重要。然而，現(xiàn)有的深度學(xué)習(xí)模型往往難以在識別準確性和計算效率之間取得平衡，限制了它們在實際田間應(yīng)用中的實用性。為了解決這一挑戰(zhàn)，我們提出了MNCM，這是一種新型的輕量級深度學(xué)習(xí)模型，用于小麥疾病識別。該模型通過集成通道先驗卷積注意力模塊來改進局部特征提取，并采用多頭自注意力機制來捕捉特征圖之間的長距離依賴性，從而增強了特征區(qū)分能力，同時保持了適合邊緣設(shè)備的緊湊架構(gòu)。在包含五種小麥葉片狀況的7,493張圖像的數(shù)據(jù)集上進行評估時，該模型實現(xiàn)了97.49%的總體分類準確率，優(yōu)于OverLoCK-B、MobileMamba和ConvNeXt等對比模型。這些結(jié)果表明，MNCM為自動化小麥疾病診斷提供了一種強大且高效的解決方案，具有集成到智能農(nóng)業(yè)系統(tǒng)和田間可部署的早期預(yù)警平臺中的巨大潛力。
引言
小麥是全球重要的主食作物，但其生產(chǎn)日益受到葉銹病、Septoria病和白粉病等葉部疾病的威脅，這些疾病會嚴重降低產(chǎn)量和谷物質(zhì)量。因此，準確及時地識別這些疾病對于有效的作物監(jiān)測和精準農(nóng)業(yè)干預(yù)至關(guān)重要。[1]推進高精度疾病識別技術(shù)對于確保糧食安全和農(nóng)業(yè)可持續(xù)性至關(guān)重要。
傳統(tǒng)的小麥疾病檢測方法依賴于手工制作的特征與機器學(xué)習(xí)分類器（如支持向量機[2]、決策樹[3]和k最近鄰[4]）相結(jié)合。例如，Bhagat等人[4]使用基于支持向量機的特征包模型實現(xiàn)了95.67%的準確率。然而，這些方法仍然受到手動特征工程依賴性、對成像條件的敏感性以及有限泛化能力的限制[5]。深度學(xué)習(xí)在這一領(lǐng)域取得了顯著進展，改進的AlexNet、修改后的VGG[6]、ResNet-50[7]、GoogLeNet[8]和DenseNet[9]等架構(gòu)在植物疾病識別方面表現(xiàn)出色[10]。盡管取得了這些進展，現(xiàn)有的深度學(xué)習(xí)模型仍存在多尺度特征提取不足、在復(fù)雜背景下的分類精度有限以及由于參數(shù)數(shù)量龐大而導(dǎo)致計算成本高的問題，這阻礙了它們在現(xiàn)實田間應(yīng)用中的部署。
為了解決這些限制，我們提出了一種基于MobileNetV3-large架構(gòu)的新型輕量級深度學(xué)習(xí)模型用于小麥疾病識別。核心假設(shè)是集成互補的注意力機制可以同時增強特征區(qū)分能力和保持計算效率。具體目標包括：嵌入通道先驗卷積注意力模塊以改進局部特征提取和噪聲抑制；結(jié)合多頭自注意力機制以捕捉多個子空間中的長距離特征依賴性；通過分層學(xué)習(xí)率優(yōu)化訓(xùn)練策略以提高效率。目標是開發(fā)一種既強大又可部署的解決方案，實現(xiàn)高識別準確率，同時適用于邊緣設(shè)備。
本文的主要貢獻有三個方面。首先，在殘差塊中嵌入了通道先驗卷積注意力模塊，以自動選擇有信息量的通道特征，同時過濾掉冗余和噪聲，從而在不同條件下提高計算穩(wěn)定性和魯棒性。其次，將多頭自注意力機制集成到MobileNetV3-large中，以捕捉標準卷積經(jīng)常忽略的長距離特征依賴性，從而在復(fù)雜背景和高類間相似性下提高區(qū)分能力。第三，通過分層學(xué)習(xí)率調(diào)度優(yōu)化訓(xùn)練策略，為新添加的模塊分配更高的學(xué)習(xí)率以進行更精細的調(diào)整，同時選擇性地更新關(guān)鍵層，從而提高訓(xùn)練效率并減少總體訓(xùn)練時間。
章節(jié)片段
優(yōu)化的MobileNetV3
經(jīng)典的MobileNetV3通過結(jié)合神經(jīng)架構(gòu)搜索和手動設(shè)計，實現(xiàn)了模型大小、速度和準確性的有效平衡，形成了一個輕量級架構(gòu)。它使用深度可分離卷積代替了標準卷積[11]。該操作被分解為深度卷積（對每個輸入通道應(yīng)用一個濾波器）和點卷積（1×1），后者合并了通道輸出，顯著減少了計算量和復(fù)雜性。與Small版本相比
實驗設(shè)備
配置了一個專門的實驗平臺。平臺的詳細規(guī)格包括操作系統(tǒng)、圖形處理單元、中央處理單元、內(nèi)存、深度學(xué)習(xí)框架、集成開發(fā)環(huán)境和編程語言，詳見表1。
本文的圖形摘要見圖5。
我們從田間種植園收集了小麥葉片樣本，包括健康葉片和四種疾病類型：枯萎病、葉銹病、白粉病
討論
深度學(xué)習(xí)的最新進展顯著提高了植物葉片疾病的分類能力。注意力機制增強了模型對疾病區(qū)域的關(guān)注，提高了準確性和魯棒性。然而，當前方法面臨關(guān)鍵限制：強調(diào)局部特征的模型缺乏全局語義建模，適應(yīng)性較差；而優(yōu)先考慮全局提取的模型則常常由于敏感性降低而錯過早期的細微病變。在
結(jié)論
在這項工作中，我們提出了一種改進的MobileNetV3-large架構(gòu)，并集成了注意力機制。通過結(jié)合通道先驗卷積注意力模塊和多頭自注意力機制，該模型增強了小麥葉部疾病的特征提取和分類能力，在測試集上實現(xiàn)了97.49%的總體準確率。盡管取得了這些有希望的結(jié)果，但仍存在一些局限性。未來的研究應(yīng)側(cè)重于擴展數(shù)據(jù)集的多樣性，以包括
CRediT作者貢獻聲明
寧莉：撰寫 – 審稿與編輯，撰寫 – 原稿，可視化，驗證，軟件，資源，方法論，形式分析。杜曉杰：撰寫 – 審稿與編輯，驗證，軟件，方法論，形式分析。吳龍國：撰寫 – 審稿與編輯，驗證，軟件，方法論，形式分析。Madineh Bijani：撰寫 – 審稿與編輯，驗證，軟件，方法論，形式分析。劉陽軒：撰寫 – 審稿與編輯，可視化，驗證，軟件
知情同意/出版同意
本文不包含任何由作者進行的涉及人類參與者或動物的研究。
利益沖突/競爭利益
作者聲明沒有利益沖突/競爭利益。
倫理批準/參與同意
本文不包含任何由作者進行的涉及人類參與者或動物的研究。
利益沖突聲明
作者聲明沒有已知的財務(wù)利益或個人關(guān)系可能影響本文報告的工作。
致謝
本項工作得到了國家自然科學(xué)基金（編號：62172140、81971692、62176086）、河南省自然科學(xué)基金（編號：252300421858）、河南省高等教育教學(xué)改革研究與實踐項目（編號：2024SJGLX0475）、河南省科技研究項目（編號：242102210032）的支持
