Я. Гудфеллоу, И. Бенджио, А. Курвилль

484 

 
Структурные вероятностные модели в глубоком обучении 
Рис. 16.10 

Примеры полных графов с четырьмя случайными величина-
ми, способных описать любое распределение вероятности. (
Слева
) Пол-
ный неориентированный граф; в этом случае существует только один пол-
ный граф. (
Справа
) Полный ориентированный граф. В этом случае полных 
графов много. Мы выбрали некоторое отношение порядка на множестве 
случайных величин и провели дугу из каждой величины в величину, которая 
следует за ней в этом порядке. Поэтому число полных ориентированных 
графов равно факториалу числа случайных величин. В данном случае вели-
чины упорядочены слева направо сверху вниз
Представляя распределение вероятности в виде графа, мы хотим выбрать граф так, 
чтобы независимостей было как можно больше, но только не таких, которых в дей-
ствительности не существует.
С этой точки зрения, одни распределения более эффективно представляются ори-
ентированными моделями, а другие – неориентированными. Иными словами, в ори-
ентированной модели можно закодировать некоторые независимости, не представи-
мые неориентированной моделью, и наоборот.
В ориентированной модели можно использовать одну структуру специального 
вида, которую трудно представить в неориентированной модели. Речь идет об 
амо-
ральности
. Эта структура имеет место, когда две случайные величины a и b являются 
родителями третьей величины c, но не существует ребра, соединяющего a и b хотя бы 
в одном направлении. (Странное название «аморальность» употребляется в литера-
туре по графическим моделям как намек на родителей, не сочетавшихся законным 
браком.) Для преобразования ориентированной модели с графом 
𝒟 в не
ориентиро-
ванную модель нужно построить новый граф 
𝒰
. Для каждой пары величин x и y в 
𝒰
включается неориентированное ребро, соединяющее x и y, если в 
𝒟 
существует ори-
ентированное ребро между x и y (в любом направлении) или если x и y – родители 
третьей величины z в 
𝒟 
. Получившийся граф 
𝒰
называется