Я. Гудфеллоу, И. Бенджио, А. Курвилль

θ
традиционной модели заменяются выражением
θ
= 
θ
(slow)
+ 
θ
(fast)
.
(18.16)
Теперь параметров вдвое больше, чем раньше, и их поэлементная сумма дает пара-
метры, используемые в исходном определении модели. «Быстрые» параметры 
θ
(fast)
обучаются при гораздо большей скорости обучения, что позволяет им быстро адапти-
роваться в ответ на отрицательную фазу обучения и подталкивать марковскую цепь 
к исследованию новой территории. Поэтому цепь быстрее прирабатывается, хотя 
этот эффект наблюдается только во время обучения, пока быстрые веса могут беспре-
пятственно изменяться. Как правило, к быстрым весам применяется также тактика 
снижения весов, поощряющая их сходиться к небольшим значениям, после того как 
они оставались большими достаточно долго, для того чтобы побудить марковскую 
цепь к смене моды.
Одно из важных преимуществ MCMC-методов, описанных в этом разделе, состоит 
в том, что они дают оценку градиента log 
Z
, и потому мы можем представить задачу 
в виде суммы вкладов log 
p
~ и log 
Z
. Затем можно использовать любой другой метод 
для обработки log 
p
~(
x
) и просто прибавить к вычисленному им градиенту наш гра-
диент в отрицательной фазе. В частности, это означает, что в положительной фазе 
можно использовать методы, которые дают только нижнюю границу 
p
~. Большинство 
других методов работы с log 
Z
, представленных в этой главе, несовместимо с метода-
ми в положительной фазе, основанными на оценке границы.

---

Псевдоправдоподобие 

517
18.3. Псевдоправдоподобие
Аппроксимации статистической суммы и ее градиента методами Монте-Карло прямо 
направлены на преодоление связанных со статистической суммой трудностей. В дру-
гих подходах эта проблема обходится посредством обучения модели без вычисления 
статистической суммы. Многие такие подходы основаны на возможности легко вы-
числить отношения вероятностей в неориентированной вероятностной модели. Свя-
зано это с тем, что статистическая сумма, входящая в числитель и знаменатель дроби, 
сокращается:
(18.17)
Псевдоправдоподобие основано на том, что условные вероятности имеют вид та-
кого отношения, поэтому их можно вычислить, не зная статистическую сумму. Пред-
положим, что мы разбили