JavaScript для глубокого обучения 2021 TensorFlow js Ббк

Часть III • Продвинутые возможности глубокого обучения с TensorFlow.js
f
() — для следующего шага. Важно отметить: хотя в схеме показаны четыре отдель­
ных прямоугольника с описаниями функций в них, на самом деле они представля­
ют одну и ту же функцию. Функция 
f
() называется 
ячейкой
(cell) RNN­слоя и ис­
пользуется в цикле во время его работы. Следовательно, RNN­слой можно считать 
RNN­ячейкой, обернутой в цикл 
for
1
.
Рис. 9.2.
Развернутое (блок A) и свернутое (блок Б) представление внутренней структуры 
simpleRNN. Свернутое представление отражает тот же алгоритм, что и развернутое, только 
лаконичнее, иллюстрируя последовательную обработку входных данных simpleRNN более кратко. 
В блоке Б показано соединение, идущее обратно от выходного сигнала (y) в саму модель, 
из-за которого такие слои называются рекуррентными (recurrent). Как и на рис. 9.1, отображены 
лишь четыре входных элемента, а члены смещений ради простоты опущены
Если сравнить структуры simpleRNN и плотного слоя (см. рис. 9.1), можно уви­
деть два основных различия.
z
z
SimpleRNN обрабатывает входные элементы (временн
ы
е шаги) по одному, 
отражая последовательную природу входных данных, на что плотный слой 
не способен.
z
z
В simpleRNN в результате обработки на каждом входном временно
'
м шаге ге­
нерируется выходной сигнал 
y
i
. Выходной сигнал с предыдущего временно
'
го 
шага (например, 
y
1
) используется слоем при обработке следующего временно
'
го 
шага (скажем, 
x
2
). Именно поэтому в название RNN (recurrent neural network — 
рекуррентная нейронная сеть) входит слово 
«рекуррентный»
: выходной сигнал 
с предыдущих временных шагов передается назад и становится входным сигна­
лом для последующих временных шагов. В таких типах слоев, как плотный слой, 
1 
Высказывание, приписываемое Юджину Бревдо.

---