課程目標

近年來,深度學習技術被廣泛應用在許多人工智慧相關領域中,
效果十分顯著,受到學界和業界的普遍重視,有許多相關的專案
計畫、競賽、研究項目正在推動。不論學界和業界,都相當需要
熟悉深度學習技術並具備實作能力的人才。

深度學習技術的進展非常迅速,這門課是一次新的嘗試,希望能
帶領具有強烈學習動機的學生,盡早投入深度學習最前沿的研究。

在課程規劃上,學期的前半段將介紹最著名的深度學習架構,由
四位老師共同授課,涵蓋機器學習、電腦視覺、系統架構、算法
優化等議題,幫助學生能夠在短時間內建立完整的深度學習基礎。
在課程的後半段,則是以新技術研發和專題實作為主,學生可依
據領域,選定不同的深度學習主題進行實驗和實作,藉此培養研
究和系統開發的能力。

這門課的另一項特點是與業界密切合作。目前已經獲得聯發科技
同意,贊助課程所需的高階運算設備,讓修課的學生有最新的運
算平台進行實驗。同時也會請聯發科技的研發人員,來課堂上講
解該公司所建立的深度學習平台架構,並且帶領學生實作業界相
關的專題。

---

課程規定

由於運算設備的數量限制,這門課只能以加簽方式選課。
有興趣修課的同學,可以組成團隊,每隊一至三人。
每個隊員都必須先完成下列申請表,經過授課老師們審查後,
決定是否同意選課。

申請表(每一位有意修課的同學都必須填寫):
TBA

申請表填寫期限 09 September 2017中午
https://docs.google.com/forms/d/e/1FAIpQLSc_AQfiNa33fRhfNq_fbeiGwBsHBpXPSn9R
ckMf95073GHb7Q/viewform

歡迎旁聽。


---

課程大綱

Weeks 1-2: DNN Architectures: CNN, RNN, Attention, Memory Network (孫民)
A533;h based on “How to Learn DNN in a Day” (talk slides by Hung-Yi Lee)
A533;h Tips and tricks for CNN to work for your need

Weeks 3-4: DNN+Control: Deep Reinforcement Learning (孫民)
A533;h Basic reinforcement learning: Markov decision processes, value function
approximation, policy gradient methods
A533;h Deep Q-learning, deep policy gradient

Weeks 5-6: Generative DNN (陳煥宗)
A533;h Artistic style transfer for images and videos, deep convolutional inverse
graphics
network
A533;h Generative models like GANs, VAEs

Weeks 7-8: CUDA Know-How, Speed-up Training, Multiple GPU, Cluster, etc. (李哲榮、
周志遠)
A533;h CUDA introduction and practice
A533;h SPARKNET: Training deep networks in SPARK
A533;h TensorFlow: Large-scale machine learning on heterogeneous sistributed Systems
A533;h Poseidon: A system architecture for efficient GPU-based deep learning on
multiple machines
A533;h Project Adam: Building an efficient and scalable deep learning training system

Weeks 9-10: embedded Systems: Compressed DNN, , Multiple-Cores, FPGA, etc.
(孫民
& MediaTek Engineers)
A533;h XNOR-Net: ImageNet classification using binary convolutional neural networks
A533;h Deep compression: Compressing deep neural networks with pruning, trained
quantization and Huffman coding
A533;h Introduction to MTK platform

Weeks 11-18 Show and Tell, Paper Presentation, Project Progress Report

---

評分方式
Assignments: 60%
Term projects: 40%

---
課程網頁
https://thecedl.github.io