Я. Гудфеллоу, И. Бенджио, А. Курвилль

18.2. Стохастическая максимизация правдоподобия 
и сопоставительное расхождение
Наивный способ реализации уравнения (18.15) состоит в том, чтобы вычислить его 
посредством приработки множества марковских цепей, инициализированных слу-
чайным образом, всякий раз как понадобится градиент. Если обучение производится 
методом стохастического градиентного спуска, то это означает, что приработка долж-
на производиться один раз на каждом шаге вычисления градиента. Получающаяся 
процедура обучения описана в алгоритме 18.1. Из-за высокой стоимости приработки 
марковских цепей во внутреннем цикле эта процедура вычислительно неосуществи-
ма, но она может служить отправной точкой, на аппроксимацию которой нацелены 
более практичные алгоритмы.
Алгоритм 18.1.
Наивный MCMC-алгоритм максимизации логарифмического 
правдоподобия с неразрешимой статистической суммой посредством градиентно-
го восхождения
Установить размер шага 
ε
равным малому положительному числу.
Установить число шагов выборки по Гиббсу 
k
достаточно большим для прира-
ботки. Для обучения ОМБ на небольшом фрагменте изображения может хва-
тить значения 100.
while
не сошелся 
do
Выбрать мини-пакет 
m
примеров {
x
(1)
, …, 
x
(
m
)
} из обучающего набора
g
←
Инициализировать набор 
m
примеров {
x~
(1)
, …, 
x~
(
m
)
} случайными значениями 
(выбранными, например, из равномерного или нормального распределения 
или, возможно, из распределения, маргиналы которого совпадают с маргина-
лами модели).
for
i
= 1 to 
k
do
for
j
= 1 to 
m