課程目標
近年來，深度學習技術被廣泛應用在許多人工智慧相關領域中，
效果十分顯著，受到學界和業界的普遍重視，有許多相關的專案
計畫、競賽、研究項目正在推動。不論學界和業界，都相當需要
熟悉深度學習技術並具備實作能力的人才。
深度學習技術的進展非常迅速，這門課是一次新的嘗試，希望能
帶領具有強烈學習動機的學生，盡早投入深度學習最前沿的研究。
在課程規劃上，學期的前半段將介紹最著名的深度學習架構，由
四位老師共同授課，涵蓋機器學習、電腦視覺、系統架構、算法
優化等議題，幫助學生能夠在短時間內建立完整的深度學習基礎。
在課程的後半段，則是以新技術研發和專題實作為主，學生可依
據領域，選定不同的深度學習主題進行實驗和實作，藉此培養研
究和系統開發的能力。
這門課的另一項特點是與業界密切合作。目前已經獲得聯發科技
同意，贊助課程所需的高階運算設備，讓修課的學生有最新的運
算平台進行實驗。同時也會請聯發科技的研發人員，來課堂上講
解該公司所建立的深度學習平台架構，並且帶領學生實作業界相
關的專題。
---
課程規定
由於運算設備的數量限制，這門課只能以加簽方式選課。
有興趣修課的同學，可以組成團隊，每隊一至三人。
每個隊員都必須先完成下列申請表，經過授課老師們審查後，
決定是否同意選課。
申請表（每一位有意修課的同學都必須填寫）：
https://goo.gl/j6h2LZ
申請表填寫期限 04 September 2016
歡迎旁聽。
---
課程大綱
Weeks 1-2: DNN Architectures: CNN, RNN, Attention, Memory Network (孫民)
Based on “How to Learn DNN in a Day” (talk slides by Hung-Yi Lee)
Tips and tricks for CNN to work for your need
Weeks 3-4: DNN+Control: Deep Reinforcement Learning (孫民)
Basic reinforcement learning: Markov decision processes, value function
approximation, policy gradient methods
Deep Q-learning, deep policy gradient
Weeks 5-6: Generative DNN (陳煥宗)
Artistic style transfer for images and videos, deep convolutional inverse graphics
network
Generative models like GANs, VAEs
Weeks 7-8: CUDA Know-How, Speed-up Training, Multiple GPU, Cluster, etc. (李哲榮、
周志遠)
CUDA introduction and practice
SPARKNET: Training deep networks in SPARK
TensorFlow: Large-scale machine learning on heterogeneous sistributed Systems
Poseidon: A system architecture for efficient GPU-based deep learning on
multiple machines
Project Adam: Building an efficient and scalable deep learning training system
Weeks 9-10: Embedded Systems: Compressed DNN, , Multiple-Cores, FPGA, etc. (孫民
& MediaTek Engineers)
XNOR-Net: ImageNet classification using binary convolutional neural networks
Deep compression: Compressing deep neural networks with pruning, trained
quantization and Huffman coding
Introduction to MTK platform
Weeks 11-18 Show and Tell, Paper Presentation, Project Progress Report
---
評分方式
Assignments: 60%
Term projects: 40%
---
課程網頁
https://thecedl.github.io