Neyron tarmoq asoslari va uni chuqur o'rganish

Последовательности и временные ряды

Существует много задач, в которых модель должна выводить последовательность векторов:

 подписывание изображений30;
 синтез речи31;
 порождение музыки32;
 видеоигры;
 моделирование языка33;
 модели порождения текста на уровне символов34.

0. 
   http://cs.stanford.edu/people/karpathy/sfmltalk.pdf.
   

0. 
   Graves and Jaitly, 2014. Towards End-to-End Speech Recognition with Recurrent Neural Network // http://proceedings.mlr.press/v32/graves14.pdf.
   
1. 
   Nayebi and Vitelli, 2015. GRUV: Algorithmic Music Generation using Recurrent Neural Net­ works // https://cs224d.stanford.edu/reports/NayebiAran.pdf.
   
2. 
   http://www.fit.vutbr.cz/~imikolov/rnnlm/thesis.pdf.
   

0. 
   https://karpathy.github.io/2015/05/21/rnn-effectiveness/.
   

Рекуррентные нейронные сети 133

0. 
   других задачах присутствует последовательность входных векторов:  предсказание временных рядов;  анализ видеоряда;
   

 извлечение музыкальной информации.
Наконец, есть задачи, в которых последовательности векторов присутствуют

как на входе, так и на выходе:

 перевод с естественного языка35;
 поддержание диалога;
 управление роботом.
РНС отличается от других глубоких сетей типом входных данных, которые они способны моделировать (нефиксированный вход):


 нефиксированные шаги вычислений;  нефиксированный размер выхода;


 возможность оперировать последовательностями векторов, например ви-деокадрами.


Особенности входа и выхода модели

0. 
   традиционном машинном обучении мы имеем один входной вектор, фиксиро-ванного размера и размер выхода также фиксирован. Именно так обычно строят-ся классификаторы изображений и табличных данных.
   

1. 
   рекуррентных нейронных сетях на входе может быть несколько векторов, по одному для каждого временного шага, и у каждого вектора может быть несколько столбцов. Ниже приведены примеры последовательностей входных и выходных векторов в различных рекуррентных сетях.
   

 Один ко многим: последовательность на выходе. Например, в задаче под-писывания изображений на вход подается изображение, а на выходе полу-чается последовательность слов.