Я. Гудфеллоу, И. Бенджио, А. Курвилль

do

---

Стохастическая максимизация правдоподобия 

511
x~
(
j
)
←
gibbs_update(
x~
(
j
)
)
end for
end for
g
←
g
– 
θ
←
θ
+ 
ε
g
end while
Мы можем рассматривать подход MCMC к максимальному правдоподобию как 
попытку уравновесить две силы, одна из которых толкает распределение модели 
вверх там, где имеются данные, а другая толкает его вниз там, где имеются приме-
ры, выбранные из модели. Этот процесс иллюстрируется на рис. 18.1. Две силы соот-
ветствуют максимизации log 
p
~ и минимизации log 
Z
. Возможно несколько аппрокси-
маций отрицательной фазы, каждую из которых можно рассматривать как попытку 
сделать эту фазу вычислительно более простой, но одновременно и как толкание ее 
вниз не в тех точках, что нужно.
p
model
(
x
)
p
data
(
x
)
p
model
(
x
)
p
data
(
x
)
х
х
p(x)
p(x)
Положительная фаза
Отрицательная фаза
Рис. 18.1 

Взгляд на алгоритм 18.1 с точки зрения положительной и от-
рицательной фаз. (
Слева
) В положительной фазе мы выбираем точки из 
распределения данных и толкаем вверх их ненормированную вероятность. 
Это означает, что точки, которые с вероятностью принадлежат данным, 
проталкиваются выше вверх. (
Справа
) В отрицательной фазе мы выбира-
ем точки из модельного распределения и толкаем вниз их ненормирован-
ную вероятность. Это противодействует стремлению положительной фазы 
прос то всюду прибавить большую постоянную к ненормированной веро-
ятности. Если распределение данных и модельное распределение совпа-
дают, то у положительной фазы такие же шансы поднять точку вверх, как 
у отрицательной – опустить вниз. Если такое происходит, то градиент мате-
матического ожидания обнуляется, и обучение следует остановить
Поскольку в отрицательной фазе примеры выбираются из модельного распределе-
ния, то мы можем интерпретировать ее как нахождение точек, в которые модель силь-
но верит. Так как действие отрицательной фазы сводится к уменьшению вероятности 
этих точек, обычно они рассматриваются как неверные представления модели о мире. 
В литературе эти точки часто называют «галлюцинациями», или «воображаемыми час-
тицами» (fantasy particles). На самом деле отрицательная фаза была предложена как 

---