具分類/迴歸資格之特徵工程與解釋性萃取以利深度分類/迴歸器建模

Abstract

隨著科技不斷的精進與創新，資料分析不論在資料規模、運算技術和分析方式都帶起了一波典範的轉移，面對來源多樣且結構複雜的資料探勘技術中，特徵工程是至關重要的步驟，目前主流使用的降維技術，多為非監督式學習萃取出保留資訊最大化的特徵，然而其中的特徵並不全然適合於建立分類/迴歸模型，因此本論文以研究此問題為出發點，設計以半監督式的卷積自動編碼器分類/迴歸模型，藉著把卷積自動編碼器的中間層攤平後，再送入分類/迴歸器同步訓練，目標是經由一次訓練即萃取出具備分類/迴歸能力之特徵，使這些特徵不僅有重建原始資料的能力，還能維持分類/迴歸模型預測的準確度。 深度學習技術在近年來獲得許多重要突破，在影像辨識、語音處理、特徵診斷等廣泛應用催生了許多成功案例，因此類神經網路的黑盒子問題也重新受到檢視，面對模型中無法理解的推理過程，將使其應用大大受限。而本論文提出之卷積自動編碼器分類/迴歸模型亦屬深度學習模型，也同樣面對黑盒子無法解釋的困境，因此本研究先回顧當前人工智慧可解釋性之發展，發展演算法拆解已訓練完成的深度神經網路模型，以得出一套對應的特徵解析架構，使提出的特徵萃取模型能夠具備基本的解釋性。 本研究最後使用Fashion MNIST、半導體化學機械研磨製程的兩資料集來驗證提出的特徵萃取模型，並透過視覺化呈現特徵重要性，找出影響模型的關鍵變數，達到模型預測性和可解釋性之間的平衡，提升深度神經網路技術的應用性。