Я. Гудфеллоу, И. Бенджио, А. Курвилль

θ
; (2) градиент 
∇
θ 
p
~(
x
) должен существовать для всех 
θ
и почти всех 
x
; (3) должна существовать интегрируемая функция 
R
(
x
), ограничивающая 
∇
θ 
p
~(
x
) 
в том смысле, что max
i
|(
∂
/
∂
θ
i
)
p
~(
x
)| 
≤
R
(
x
) для всех 
θ
и почти всех 
x
. К счастью, боль-
шинство интересных моделей машинного обучения обладает этими свойствами.

---

510 

 
Преодоление трудностей, связанных со статической суммой
Следующее тождество
∇
θ
log 
Z
= 
𝔼
x
∼
p
(
x
)
∇
θ
log 
p
~(
x
)
(18.15)
лежит в основе разнообразных методов Монте-Карло для приближенной максимиза-
ции правдоподобия моделей с неразрешимыми статистическими суммами.
Подход к обучению неориентированных моделей методом Монте-Карло пред-
лагает интуитивно понятную схему, в рамках которой мы можем рассуждать о по-
ложительной и отрицательной фазах. В положительной фазе мы увеличиваем 
log 
p
~(
x
) для 
x
, выбранного из данных. В отрицательной фазе мы уменьшаем ста-
тистическую сумму за счет уменьшения log 
p
~(
x
) для 
x
, выбранного из модельного 
распределения.
В литературе по глубокому обучению принято параметризовать log 
p
~ в терминах 
функции энергии (уравнение 16.7). В этом случае мы можем интерпретировать поло-
жительную фазу как толкание вниз энергии обучающих примеров, а отрицательную 
фазу – как толкание вверх энергии примеров, выбранных из модели (см. рис. 18.1).