Я. Гудфеллоу, И. Бенджио, А. Курвилль

Рис. 16.5 

Из этого графа следует, что 
E
(a, b, c, d, e, f)
можно записать 
в виде 
E
a,b
(a, b) + 
E
b,c
(b, c) + 
E
a,d
(a, d) + 
E
b,e
(b, e) + 
E
e,f
(e, f)
при подходящем вы-
боре функции энергии для каждой клики. Отметим, что функции на рис. 16.4 
можно получить, положив каждую равной экспоненте соответствующей от-
рицательной энергии, например: 
ϕ
a,b
(a, b) = exp(–
E
(a, b))
В определении энергетической модели есть часть, не несущая никакой полезной 
функции с точки зрения машинного обучения: знак – в формуле (16.7). Его можно 
было бы включить в определение 
E
, поскольку во многих случаях алгоритм обучения 
вправе выбрать любой знак энергии. Знак – присутствует главным образом для того, 
чтобы сохранить совместимость между литературой по машинному обучению и по 
физике. Многими своими достижениями вероятностное моделирование обязано ста-
тистической физике, где 
E
обозначает физическую энергию и не может иметь произ-
вольного знака. Термины «энергия» и «статистическая сумма» заимствованы именно 
оттуда, хотя их математическое применение шире, чем в том физическом контексте, 
в котором они возникли. Некоторые специалисты по машинному обучению (напри-
мер, Smolensky [1986], который называл отрицательную энергию 
гармонией
) убира-
ли знак минус, но это не стало стандартным соглашением.

---

480 

 
Структурные вероятностные модели в глубоком обучении 
Во многих алгоритмах для работы с вероятностными моделями нужно вычислять 
не 
p
model
(