Я. Гудфеллоу, И. Бенджио, А. Курвилль

y
(
t
)
при условии прошлых входов:
log 
p
(
y
(
t
)
| 
x
(1)
, …,
x
(
t
)
) 
(10.29)
или если модель включает связи между выходом на одном временном шаге и на сле-
дующем за ним, то:
log 
p
(
y
(
t
)
| 
x
(1)
, …,
x
(
t
)
, 
y
(1)
, …,
y
(
t
–1)
). 
(10.30)
Разложение совместного распределения последовательности значений 
y
в серию 
одношаговых предсказаний вероятности – это один из способов запомнить полное 
совместное распределение во всей последовательности. Если мы подаем прошлые 
значения 
y
в качестве входов, обусловливающих предсказание на следующем шаге, 
то в ориентированной графической модели не будет ребер, ведущих из любого 
y
(
i
)
в прошлом в текущий 
y
(
t
)
. В этом случае выходы 
y
условно независимы при усло-
вии последовательности значений 
x
. Если же мы подаем фактические значения 
y
(не 
предсказания, а наблюдаемые или сгенерированные значения) обратно в сеть, то ори-
ентированная графическая модель содержит ребра из всех значений 
y
(
i
)
в прошлом 
в текущее значение 
y
(
t
)
.
В качестве простого примера рассмотрим случай, когда РНС моделирует только 
последовательность скалярных случайных величин 
𝕐
= {y
(1)
, …, y
(
τ
)
} без дополнитель-
ных входов x. Входом на временном шаге 
t
является выход шага 
t
– 1. Тогда РНС 
определяет ориентированную модель над переменными y. Параметризуем совмест-
ное распределение этих наблюдений, применив цепное правило условных вероятно-
стей (формула 3.6):

---