以非揮發性記憶體支援大型主記憶體之延伸

Abstract

大數據時代，當DRAM容量無法儲存龐大的資料量時，記憶體與儲存裝置間將產生頻繁的資料搬移。系統運行深度學習或圖論運算這類資料密集型(Data-Intensive)應用時，龐大的資料搬移時間將大幅影響系統效能。儘管購買更大量的DRAM可以減少資料搬移量，然而數據顯示資料的成長速度已經快過單位價格下DRAM容量的成長速度，因此昂貴建置成本漸漸成為消費者的夢魘。非揮發性記憶體的發展逐漸成熟，能以較低的價格提供比DRAM更大的記憶體空間，亦能有效縮短記憶體與儲存裝置間的資料搬移速度，這些優勢使其能以低成本來延伸主記憶體空間。然而，系統中陳舊的記憶體架構以及作業系統設計，使得系統無法直接受惠於非揮發性記憶體快速存取速度的優勢。 在這樣的轉折點，為了能讓系統享受到非揮發性記憶體(NVM)快速的存取速度，本博士論文旨在重新思考以及重新設計整個計算機系統，提供消費者以NVM支援高效大型主記憶體之延伸的解決方案。首先，我們探討使用低價的混合式NVM(亦即在一塊記憶體模組上搭載著高速與低速的記憶體晶片)，容易使當今系統架構面臨Great Memory Wall的議題導致系統效能極不穩定。我們提出了一套協同整合設計來管理CPU以及像是NVDIMM這類混合式NVM，主要在橋接CPU與NVDIMM之間的程式訊息落差，並透過資料預搬移避免Great Memory Wall。接著我們觀察到現今作業系統提供的虛擬記憶體管理單元無法有效利用NVM裝置提供的極低延遲存取速度以及極高的平行度。不同於以往頁管理(Page Management)採用固定的大小，我們提出一套動態頁管理的策略，根據不同時間的程式存取行為選擇合適的頁大小有效利用平行度，並針對不同頁大小我們會採取適合的I/O模式(同步或非同步I/O)藉以利用極低延遲存取速度的優勢。最後，我們更發現當NVM裝置的速度來到數個微秒時，傳統I/O管理層龐大且複雜的優化設計(例如上下文交換)，不僅無法提供優化的效果，反而逐漸成為整個系統效能的瓶頸。在這樣的趨勢下，我們提出一套輕量化的I/O管理設計，重新設計適合現今裝置的機制並將陳舊的優化設計拔除，藉以能使消費者直接享受到由於NVM裝置不斷變快，使記憶體延伸的效能不斷逼近主記憶體效能的優勢。