COSCUP Hands-on 2015

Neural Networks and Deep Learning

 

想知道近年來的人工智慧技術是如何突飛猛進？為什麼Siri語音助理聽得懂人類說的話？為什麼facebook有辦法自動辨識朋友的頭像？這些都是因為深度學習(Deep Learning)技術的發展，藉由模擬人類大腦學習的方式，就可以讓電腦的智力更接近人類。

 

在2014年，深度學習領域又有新的突破，Google DeepMind團隊所研發出的神經圖靈機(Neural Turing Machine)可以成功模擬人腦短期記憶與重新編碼的能力，讓電腦得以學會更複雜運算程序。http://technews.tw/2014/11/02/google-deepmind/

 

本課程將以深入淺出的方式，帶您了解神經圖靈機的奧妙，並用藏頭詩創作為例子，讓您體會神經圖靈機的學習與創作的能力。

 

課程可分為以下兩部分--Neural Turing Machines和Neural Networks for Natural Language Processing。

 

第一部分是講神經圖靈機的原理，會從最基本的類神經網路開始講起，講解各種類神經網路的演進，以及神經圖靈機是如何克服以往的技術瓶頸。

 

第二部分是講人工智慧的語言學習與詩詞創作，如何讓類神經網路學會文字的語意，並教您如何用神經圖靈機從大量的唐詩中，學會唐詩寫作的運算邏輯，並自動創作出新的唐詩。

 

 

 

神經圖靈機可自動學會複雜的運算程序(以repeat copy為例)

 

 

 

 

相較於用傳統的語言統計模型(左)所做的藏頭詩產生器，神經圖靈機(右)可產生出語句更通順的藏頭詩。

 

 

~~課前說明會~~

 

然而，想學習深度學習的理論之前，您是否想知道，需要具備哪些基礎？這些理論會不會很難？為了讓您可以在上課之前，更了解我們的課程，講師們於7/26(日)下午14:00 特別安排了免費的課程說明會，介紹本次課程，讓您可以先有充分的準備，再來參與本次課程。http://agilearning.kktix.cc/events/handson-nndl-info

 

如果您是還在猶豫是否要報名的朋友，那就更應該來參加課前說明會了！

相信一定可以讓您覺得這是一次非常值得投資的學習與體驗！

 

課程大綱

Neural Turing Machines

• Why neural networks
• Convolutional neural networks and Recurrent neural networks.
• The vanishing gradient problem
• Neural Turing Machine architecture
• Experiments done on NTMs and the implementation https://github.com/fumin/ntm with hands-on reproduction of the experiments

Neural Networks for Natural Language Processing

• Vector Space Models of Semantics
• Neural Probabilistic Language Models
• word2vec -- Efficient Estimation of Word Representations in Vector Space
• Recurrent Neural Network Language Models
• Acrostic poem generation with NTM

講師介紹

fumin

I am a developer at CardinalBlue and a member in the MLDM Monday community.

At work, I dwell mostly on server backend and Android development.

Out of work, I have done several open source projects in Machine Learning and Computer Vision. More details about my work can be found in https://github.com/fumin

• Twitter
• Blog

Mark Chang

畢業於臺大電子所，目前為台灣某雲端服務公司的演算法工程師，也是g0v社群的工程師。

喜歡資訊檢索與自然語言處理等相關技術，曾在社群分享過如何用程式自動產生藏頭詩，喜歡與大家分享理論與實務經驗。

以往演講

• [MLDM Monday] 藏頭詩自動產生器
• [PyCon APAC 2015 Tutorial] Play Probability Modeling and Text Mining

• Github
• Blog

退費措施與其他問題

1. 若報名課程學員人數不足 8 人，或因不可抗拒因素（如：天災、停電）需取消課程，主辦單位將個別以 email 通知學員，並退還全額課程費用。
2. 發票一律現場領取
3. 退換票辦法
   • 本活動委由 KKTIX 代為處理退票退款事宜
   • 退票時 KKTIX 將酌收 10% 手續費、且活動前十天內（不含活動日）不予退票。
   • 詳情請見 KKTIX 代理退換票辦法

※ COSCUP Hands-on 與 COSCUP 雖由同一群志工主辦，但彼此是獨立的活動，不能憑其一之與會憑證參加另一個活動。

關於 COSCUP Hands-on

COSCUP Hands-on 是一個性質上教學大於演講的企劃，希望除了 COSCUP 開源人年會的演講之外，也有機會透過教學課程傳遞與 Open Source 相關的經驗與知識，協助您提升個人能力，也一併增加貢獻開源專案的技能；同時，這也是一個盡可能不倚靠外部贊助、僅以門票收入打平活動支出的嘗試，希望能為 COSCUP 尋找另一種永續經營的方式。

關於 COSCUP

COSCUP（開源人年會）是泛亞地區極負盛名的國際級開源社群研討會，以台灣各大開放社群為籌辦主力，每年吸引來自台灣、中國、香港、日本、新加坡、菲律賓、印尼、印度、馬來西亞... 等近 2000 名各地好手參加。在規模不斷攀升的情形下，COSCUP 仍以籌辦人員全為志工、參加者也不需付入場費的方式，致力將 Open 精神推展入各方各地。關於 COSCUP 的更多訊息，請參閱官方網站 coscup.org