Я. Гудфеллоу, И. Бенджио, А. Курвилль

20.4. Глубокие машины Больцмана
Глубокая машина Больцмана
(ГМБ) (Salakhutdinov and Hinton, 2009a) – еще один 
вид порождающих моделей. В отличие от глубокой сети доверия, она полностью не-
ориентированная, а в отличие от ОМБ, имеет несколько слоев латентных переменных 
(в ОМБ такой слой единственный). Но так же, как и в ОМБ, внутри слоя все пере-
менные взаимно независимы при условии переменных из соседних слоев. Структура 
графа показана на рис. 20.2. Глубокие машины Больцмана применялись к различным 
задачам, в т. ч. к моделированию документов (Srivastava et al., 2013).
Рис. 20.2 

Графическая модель глубокой машины Больцмана с одним 
видимым слоем (внизу) и двумя скрытыми слоями. Связи существуют толь-
ко между блоками из соседних слоев. Внутри слоев никаких связей нет
Подобно ОМБ и ГСД, глубокие машины Больцмана обычно содержат только би-
нарные блоки (и мы придерживаемся такого предположения для простоты изложе-
ния), но включить в них вещественные видимые блоки не составляет труда.

---

556 

 
Глубокие порождающие модели 
ОМБ – энергетическая модель, а значит, совместное распределение вероятности 
переменных модели параметризовано функцией энергии 
E
. В случае глубокой ма-
шины Больцмана с одним видимым слоем 
v
и тремя скрытыми слоями 
h
(1)
, 
h
(2)
, 
h
(3)
совместное распределение имеет вид:
 
(20.24)
Чтобы упростить изложение, мы далее опускаем параметры смещения. Тогда 
функция ГМБ определяется формулой:
E
(
v
, 
h
(1)
, 
h
(2)
,