Я. Гудфеллоу, И. Бенджио, А. Курвилль

y
| 
x
), воспользовавшись тем же 
P
(
y 
| 
ω
), что и раньше, но сделав 
ω
функцией 
от 
x
. В случае РНС это можно сделать несколькими способами. Мы рассмотрим са-
мые распространенные и очевидные.
Выше мы обсуждали РНС, которые принимают на входе последовательность век-
торов 
x
(
t
)
для 
t
= 1, …, 
τ
. Но можно взять в качестве входа всего один вектор 
x
. Если 
размер вектора фиксирован, то мы можем просто сделать его дополнительным вхо-
дом РНС, генерирующей последовательность 
y
. Вот несколько типичных способов 
подать дополнительный вход РНС:
1) в качестве дополнительного входа на каждом временном шаге;
2) в качестве начального состояния 
h
(0)
;
3) то и другое.
Первый, самый распространенный подход показан на рис. 10.9. Взаимодействие 
между входом 
x
и каждым векторным скрытым блоком 
h
(
t
)
параметризуется матри-
цей весов 
R
, которой не было в модели, содержащей только последовательность зна-
чений 
y
. Одно и то же произведение 
x
⏉
R
добавляется в качестве дополнительного 
входа скрытых блоков на каждом временном шаге. Выбор 
x
можно рассматривать как 
определение значения 
x
⏉
R
, которое, по существу, является новым параметром смеще-
ния, используемым в каждом скрытом блоке. Веса остаются независимыми от входа. 
Мы можем считать, что эта модель берет параметры