《Internet of Things》：A Quantization Strategy for Federated Learning in Agricultural Internet of Things Devices
編輯推薦：
本文針對農業物聯網（Agri-IoT）中資源受限設備部署聯邦學習（FL）時通信成本高昂的問題，創新性地提出了最小相對量化誤差（MRQE）和最小混合權重量化誤差（MWQE）策略。這些方法通過基于梯度幅度的自適應層間精度調整，以及動態融合多種量化模式，在保證模型性能的同時顯著降低了上傳開銷，為動態網絡條件下的高效、安全聯邦學習部署提供了靈活解決方案。
亮點 (Highlights)
動機 (Motivation)我們觀察到，最小平方量化誤差（MSQE）算法從全局視角最小化量化誤差，而最小相對量化誤差（MRQE）算法在建模誤差時明確考慮了量化的實數值。這兩種算法從不同方面描述了量化誤差。將這兩種算法結合，可以顯著提升模型的表達能力和精度，這使得設計一種混合方法具有重要意義。基于之前的數學分析，我們明確……
聯邦學習中的最小相對量化誤差 (MRQE In Federated Learning)
在本節中，我們提出聯邦最小相對量化誤差（FedMRQE）算法。雖然前面的章節重點討論了在假設服務器端在聚合和分發模型時使用全精度模型的條件下，客戶端側的量化機制，但這種設置緊密地反映了現實中的聯邦學習部署。在農業物聯網環境中尤其相關，因為客戶端設備（如田間傳感器和邊緣節點）通常……
實驗設置 (Experiment Setup)
模型與數據集 (Models and datasets).實驗在CIFAR-10和CIFAR-100數據集上進行。CIFAR-10包含10個類別的50,000張訓練圖像和10,000張測試圖像；CIFAR-100包含100個類別，每個類別有600張圖像（500張訓練，100張測試）。每個數據集都在獨立同分布（IID）和非獨立同分布（Non-IID）數據劃分下進行評估。獨立同分布劃分將樣本均勻分配給客戶端；非獨立同分布劃分是根據狄利克雷分布（Dirichlet distribution）為每個客戶端生成的，其集中參數為dα（較小的dα會增加類別不平衡性和……
結論 (Conclusion)
這項工作解決了農業物聯網（Agri-IoT）系統中聯邦學習通信效率的關鍵挑戰。通過引入最小相對量化誤差（MRQE）和最小混合權重量化誤差（MWQE）量化策略，我們能夠在異構數據分布和有限帶寬條件下，以對精度影響最小的方式實現高效的模型更新。實驗結果證實，我們的方法在多種比特寬度和數據集設置下，始終優于現有的量化技術，這使得……
作者貢獻聲明 (CRediT authorship contribution statement)
Jing Liu:撰寫初稿，驗證，軟件，項目管理，方法論，調查，形式分析，概念化。 Boyuan Li:撰寫初稿，驗證，軟件，項目管理，方法論，調查，形式分析，概念化。 Cui Liu:撰寫評審與編輯，驗證，監督，資源，調查，資金獲取，形式分析。 Shengbo Chen:撰寫評審與編輯，驗證，項目管理，……
利益沖突聲明 (Declaration of competing interest)
作者聲明，他們沒有已知的可能影響本報告工作的競爭性經濟利益或個人關系。
