可變電阻式記憶體類神經網路加速器: 效能與耗能模擬框架

Abstract

可變電阻式記憶體之神經網路加速器利用記憶體式運算技術計算類神經演算法，記憶體式運算技術能使得記憶體不僅能夠儲存神經網路之權重，還能夠實現向量與矩陣乘法，因此可以提升系統的能源效率。由於不同類神經網路的權重配置、排程以及硬體設置皆會影響加速器的效能和耗能，為了設計高效率或低耗能的可變電阻式記憶體之神經網路加速器，我們會需要一套模擬框架分析不同設計對系統的效能與耗能的影響。 此篇論文中，我們提出了一個可變電阻式記憶體之神經網路加速器模擬框架，此框架可根據使用者選擇的權重配置方法、排程方式與硬體配置當作輸入參數，模擬加速器的效能與耗能，此模擬框架由數個模組組成，使用者除了使用預設選項當模擬器的輸入外，還能夠改寫模擬框架的模組，來彈性地達成不同的權重配置、排程。 我們使用多個不同的卷積神經網路為討論對象，以證實此模擬框架可提供使用者設計觀點，幫助設計可變電阻式記憶體之神經網路加速器。