Я. Гудфеллоу, И. Бенджио, А. Курвилль

487
Рис. 16.13 

Пример разрешения неоднозначности интерпретации не-
ориентированных сетей с помощью факторного графа. (
Слева
) Неориенти-
рованная сеть с кликой из трех случайных величин 
a
, 
b
и 
c
. (
В центре
) Фак-
торный граф, соответствующий той же неориентированной модели. В этом 
графе имеется всего один фактор над всеми тремя величинами. (
Справа
) 
Другой допустимый факторный граф для той же модели – с тремя фактора-
ми, по одному для каждой пары величин. Представление, вывод и обучение 
для этого графа асимптотически дешевле, чем для графа в центре, несмот-
ря на то что оба представляют одну и ту же неориентированную модель
16.3. Выборка из графических моделей
Графические модели также упрощают операцию выборки из модели. Одно из пре-
имуществ ориентированных моделей состоит в том, что простая и эффективная про-
цедура 
предковой выборки
(ancestral sampling) может дать пример из совместного 
распределения, представленного моделью.
Основная идея заключается в том, чтобы произвести топологическую сортиров-
ку вершин x
i
графа, так что для всех 
i
и 
j
справедливо утверждение: 
j
больше 
i
, если 
x
i
– родитель x
j
. Тогда выборку из случайных величин можно производить в этом по-
рядке. Иначе говоря, сначала производим выборку x
1
∼
P
(x
1
), затем из 
P
(x
2
| 
Pa
𝒢
(x
2
)) 
и т. д., пока не дойдем до 
P
(x
n
| 
Pa
𝒢
(x
n
)). Если выборку из каждого условного распре-
деления 
P
(x
i
| 
Pa
𝒢
(x
i
)) произвести легко, то легко сделать выборку и из всей модели. 
Топологическая сортировка гарантирует, что мы сможем прочитать условные распре-
деления (16.1) и произвести из них выборку по порядку. Без сортировки мы могли бы 
попытаться произвести выборку случайной величины до того, как станут доступны 
ее родители.
Для некоторых графов топологический порядок не единственный. Предковую вы-
борку можно применять с любым возможным порядком.
В общем случае предковая выборка работает очень быстро (в предположении, что 
производить выборку из каждого условного распределения легко) и удобно.
Недостаток предковой выборки – в том, что она применима только к ориентиро-
ванным графическим моделям. Другой недостаток – в том, что предковая выборка 
не поддерживает произвольную операцию условной выборки. Если мы хотим про-
извести выборку из подмножества случайных величин в ориентированной графи-
ческой модели при условии некоторых других величин, то часто требуется, чтобы 
все обуслов ливающие величины встречались в упорядоченном графе раньше, чем 
величины, из которых производится выборка. В таком случае мы можем выбрать из 
локальных условных распределений вероятности, заданных модельным распределе-
нием. В противном случае условные распределения, из которых мы должны произ-

---