RNN Language Model
1.0.0
Прогнозирование последовательности символов с использованием простых RNN (повторяющиеся нейронные сети) или LSTM (длинная кратковременная память).
Стандартные RNN страдают от исчезающих и взрывающихся проблем с градиентом. LSTM справляются с этими проблемами, используя подключения обратной связи и внедряя новые ворота, такие как входные и забывая ворота, которые позволяют лучше контролировать поток градиента и обеспечивать лучшее сохранение зависимостей дальнего действия.
