神經網路應用

RNN好文章
http://blog.csdn.net/heyongluoyao8/article/details/48636251

收斂SIN
http://www.qingpingshan.com/rjbc/vbnet/104135.html

RNN文章
http://cpmarkchang.logdown.com/posts/278457-neural-network-recurrent-neural-network


這幾天使用了基本的神經網路訓練起一些函數，其中想要找出兩條曲線的交叉訊號這樣簡單的動作神經網路卻怎麼樣也訓練不起來，處在於放棄邊緣。

有種這麼簡單的規則你都沒有辦法學習那我還能相信你什麼的[憤怒想法]。

開始尋找一些文章想要知道神經網路的極限在哪裡。

(後來發現憤怒的是自己對於神經網路的不熟悉，慢慢的知道只是知道皮毛tensorflow 架設簡單神經網路是沒有什麼作用的。)

目前知道神經網路需要對於 [問題的性質] 使用不同的架構，

例如對於圖形辨識使用 CNN 捲積神經網路將會有比較好的效果。

對於時間訊號有關係的需要使用RNN 的Recurrent  Nural Network 會比較好，

RNN 後來進化到LSTM ( Long Short Term Memory networks) 成為主流

雖然看到文章中後來有更新的論文發表 CW-RNN 可以超越LSTM

單是tensorflow 並沒有太多人提及  CW-RNN ，LSTM則有較多文章 可以參考

開始了解LSTM中。