請用此 Handle URI 來引用此文件:
http://tdr.lib.ntu.edu.tw/jspui/handle/123456789/74641
標題: | 學習高速且高效率的深度學習的迴歸應用 Deep Feature Learning for Fast and Efficient Regression Application |
作者: | Tsun-Yi Yang 楊存毅 |
指導教授: | 莊永裕(Yung-Yu Chuang),林彥宇(Yen-Yu Lin) |
關鍵字: | 卷積神經網路,迴歸,高效率,緊實,快速,年齡,頭部,角度, Convolutional neural networks,regression,efficient,compact,fast,age,head,pose, |
出版年 : | 2019 |
學位: | 博士 |
摘要: | 在深度學習茁壯的近十年來,硬體和軟體都為了卷積神經網路 (CNN) 快速地發展,而在大尺度應用上,只追求效能的神經網路會產 生無法負荷且過大的計算成本,導致快速且有效率的研究題目是非常 迫切的。我們先就特徵描述子 (feature descriptor) 到神經網路的演進討 論起,並在本論文中特別討論迴歸問題 (regression) 在深度學習中的應 用。迴歸問題的本質可以分為多種,像是連續性 (continuity)、分群或 量化 (grouping or quanitzation)、分佈性 (distribution) 等等。過去的方法 也曾對這些問題著手,但是卻沒辦法將快速高效和這些面向做有效的 結合。我們討論了在不同的電腦視覺應用下,如何讓過去運算或儲存 的負荷降低到百倍甚至千倍以下,而且仍然維持足夠好的效能和訓練 穩定度。其中我們以臉部年齡估計 (facial age estimation)、頭部角度估 計 (head pose estimation) 作為主題,來表現我們方法的強健程度。 In the past few decades, deep learning is growing as fast as it could, and both of the hardware and the software are rapidly developing for the convolutional neural network (CNN). However, in large scale scenario, purely performance driven network will consume too much computational power. Therefore, it is crucial to study fast and efficient neural network. At first, we introduce the process from using feature descriptor to CNN, and we discuss the regression problems in this thesis specifically. The nature of the regression has several aspects such as continuity, grouping or quantization, distribution and so on. Previous research also targets on such problems, but they failed on combining them into an efficient framework. We discuss different computer vision applications with 100× or even 1000× smaller computational cost or memory overhead while maintaining excellent performance and training stability. More specifically, we use facial age estimation and head pose estimation as concrete examples to show the robustness of the pro- posed methods. |
URI: | http://tdr.lib.ntu.edu.tw/jspui/handle/123456789/74641 |
DOI: | 10.6342/NTU201902521 |
全文授權: | 有償授權 |
顯示於系所單位: | 資訊工程學系 |
文件中的檔案:
檔案 | 大小 | 格式 | |
---|---|---|---|
ntu-108-1.pdf 目前未授權公開取用 | 8.16 MB | Adobe PDF |
系統中的文件,除了特別指名其著作權條款之外,均受到著作權保護,並且保留所有的權利。