使用初始殘差和恆等映射的高效率圖卷積神經網路結構搜索

Abstract

最近，圖卷積網路的架構越來越深，而圖卷積網路的模型大小和推斷時間也逐漸上升。這篇論文提出 EGASII，其目的在於用神經網路結構搜索來自動得到一個高效率的圖卷積網路架構。這個方法結合PDARTS 和 SGAS 來減少搜尋階段和評估階段的準確度差異。將初始殘差和恆等映射加入候選運算中。這篇論文試著找到怎麼組合和連接這些候選運算，來得到在模型大小和推斷時間上效率較高的架構。結果，使用 EGASII 所得到的架構有比較小的模型大小或比較短的推斷時間。以同樣的模型大小或推斷時間來看，有較高的準確度。在 PPI資料集上，模型大小和推斷時間的效率提高。在 ModelNet 資料集上，模型大小的效率提高。兩個資料集都是節點分類的課題，並且是歸納設定。