分支網路中性價比最高之最佳分支位置演算法

Abstract

深度神經網路近幾年在機器學習的使用上非常廣泛。為了達到較高的預測正確率，網路的深度不斷的在增加。但在提高預測正確率的同時，同時也需要花費較多的推斷時間以及能源。 前人提出了分支網路的這個技術來處理這個問題，這個技術在原本的網路當中，加入分支，這些分支可以讓資料不須執行完整個網路就可以提前離開產生預測結果。 分支網路需要人工調整一些超參數，這些超參數會非常影響分支網路的效果。而我們這篇論文主要是探討在那些位置加入這些分支會是最佳的。根據我們所知道的，之前還沒有人探討過類似問題。首先我們先定義了分支位置決定問題，並且也證明分支位置決定問題是一個NP完備問題。之後我們提出了一個動態規劃演算法來找到一個網路中最佳的分支位置。 我們將我們的演算法在四種不同深度的VGG網路上做實驗，實驗結果顯示我們的演算法可以有效地計算出最佳分支位置並且經準的預估預測正確率以及實際推斷時間。