[論文速速讀]系列文章介紹
論文速速讀系列是從今年四月開始，我開始寫一些論文的中文讀書筆記，還記得第一篇是[論文速速讀]ReZero is All You Need: Fast Convergence at Large Depth，之後發現儘管自己已經陸續產出了幾篇文章，可是好像都沒正式的跟大家介紹這系列文章的由來xD
所以這篇文章就是來講講這系列文章到底是什麼，以及我會和會想寫這些文章。
由於在AI領域每年總是有一些非常重大的突破和應用，如果跟不上潮流很有可能就會錯失許多機會。例如，對NLP領域熟悉的話你一定聽過2013年的word2vec、2014年開始流行的attention、2018年的Bert…這些很有名的技術。
還記得Bert剛出的時候我好像剛進碩士實驗室，當時只知道這個技術屌打了當時一堆NLP的研究，但我想也想不到兩年後Bert已經造成如此大的影響力，一堆基於Bert的變形應用在各大領域上都取得了非常優異的結果。
因此，我想要藉由這系列的文章讓自己能夠更加快速的了解AI的新技術和研究，同時逼迫自己看論文xD
往最近在上CNN的課程，對於如何計算Layers之間要訓練的參數數量有更加清楚的理解，於是想發一篇文章將這些數量到底如何推出的記錄下來，順便證明我還活著只是久久沒發文:-(
這篇會用我自己的理解簡介一下在做二元分類(Binary Classification or Logistic Classification)上時使用Sigmoid和Softmax的差異，以及他們應該對應哪一個crossentropy(不然你會得到錯誤訊息或是怎麼train都train不好…QQ)。
最近沉在kaggle浮不上來，快要被淹死了，哀…
扯遠了，今天要講的是一個在練習的時候遇到的坑(其實遇到很多坑，之後再慢慢補吧，因為我很懶)。
在做Machine Learning時，大家都知道對於Categorical features要做preprocess，將分類的資料轉成數值型的資料才能丟到model去train。基本上有兩種轉換的方式，One-hot Encoding和Label Encoding，先簡單簡介下兩者的差異：
附上一首音樂，讀的時候會更有感覺xD: [Youtube]maplestory login music
楓之谷 / MapleStory，是許多七八年級的共同回憶。記得國小的時候遊戲還到我們的國小發水世界的序號，為了多拿一點我還跟朋友一直在門口來來回回，甚至還思考要怎麼變裝。拿完一疊後一群人跑去圖書館用那邊的電腦下載楓之谷兌換序號，還因此被管理員罵…
以往在撰寫Python程式碼時，我都是使用Jupyter-notebook做為開發環境，互動式介面這個特色真的很吸引人，能夠區塊式的執行程式碼，並可以搭配Markdown語法將程式碼編輯成類似筆記的形式。
但開始接觸深度學習後，開始遇上效能的問題了，比方說使用CNN訓練CIFAR-10在我的電腦上一個epoch需要將近兩分鐘，整個訓練下來花上了不少時間……，於是我最近開始改用Google的Colab做為開發環境，Colab一大特色就是提供了GPU(Nvidia Tesla K80 GPU)讓使用者可以在訓練的時候使用他們的GPU進行加速！！光是這點就值得我來使用Colab了，實測後使用相同的code訓練CIFAR-10一個epoch只需要9秒
這篇拿來記錄一下我的大學助教生涯(2017~2018)，並在文章最後提供了我上課時給學弟妹用的加強班講義。
我從大三開始，開始擔任高大資工的程式課程助教(大一必修課程)，系上這門課有一個特色就是，助教會利用晚上的時間開設程式加強班(非強制參加)，加強修課同學的程式實作能力然後我的加強班的講義都是自己製作(為了好玩不要讓內容太死板，每學期的風格我都弄得會不一樣xD)
