RNN Language Model

RNN言語モデル

単純なRNN（再発ニューラルネットワーク）またはLSTM（長期短期メモリ）を使用した文字シーケンス予測。

なぜLSTM？

標準的なRNNは、勾配の問題の消失と爆発に苦しんでいます。 LSTMは、フィードバック接続を使用し、入力や忘却ゲートなどの新しいゲートを導入することにより、これらの問題に対処します。