《Neurocomputing》:Multi-objective evolutionary search for automatic deep representation learning on heterogeneous information networks
編輯推薦:
本研究提出了一種名為MOEAHIN的多目標協同進化算法,旨在自動化地搜索異構信息網絡(HINs)中的元多重圖和神經網絡架構,以權衡模型性能與圖稀疏性,為解決自動深度表征學習中的手動設計和參數調優難題提供了有效方案。
高光亮點
- •
本研究首次在異構信息網絡(HINs)的自動深度表征學習中,將元多重圖(Meta-multigraph)和神經網絡架構這兩個核心問題納入考量,并明確地將該問題建模為一個多目標優化問題(MOP)。這使得我們能夠在模型性能與圖結構稀疏性之間尋求最佳平衡,從而為用戶提供具備不同特性的可選方案。
- •
我們提出了一種多目標協同進化算法(命名為MOEAHIN),用于在定義的兩個目標上同步優化元多重圖和神經網絡架構。該算法允許兩者在各自的子種群中獨立進化,并在優化過程中協同演化,以應對兩者在搜索空間中規模不平衡的挑戰。
- •
我們在MOEAHIN中設計了一個針對元多重圖拓撲結構的單點最近鄰變異算子,該算子有助于算法的收斂。
提出的算法
在本節中,我們首先闡述所提出的多目標協同協同進化算法,接著介紹所設計的單點最近鄰變異算子,最后給出算法的整體概覽。
實驗
在本節中,首先給出實驗設置。接著,我們在六個數據集上針對節點分類和推薦任務的性能進行了比較,以展示MOEAHIN的優越性。最后,對搜索得到的帕累托前沿進行了分析,并完成了消融實驗。
結論
在這項工作中,我們為異構信息網絡(HINs)的自動深度表征學習提出了一種多目標協同協同進化搜索方法。首先,我們將HINs上的自動深度表征學習問題明確建模為一個多目標優化問題。其次,為了應對元多重圖和神經網絡架構在搜索空間中的不平衡性,我們提出了一個在兩目標上進行優化的多目標協同進化算法,它們分別在子種群中獨立進化并在優化過程中協同演化。