Я. Гудфеллоу, И. Бенджио, А. Курвилль

516 

 
Преодоление трудностей, связанных со статической суммой
в отрицательной фазе гораздо больше между шагами вычисления градиента, чем 
между различными марковскими цепями. Например, модель, обученная на наборе 
данных MNISТ, на одном шаге может выбрать исключительно цифры 7. Тогда про-
цесс обучения сильно опустит вниз моду, соответствующую семерке, и на следующем 
шаге модель выберет только цифры 9.
При вычислении выборки из модели, обученной с помощью СМП, следует прояв-
лять осторожность. Производить выборку следует, начиная с новой марковской цепи, 
инициализированной в случайной начальной точке, после того как обучение модели 
закончено. На примеры, присутствующие в запомненных отрицательных цепях, ис-
пользованных для обучения, оказали влияние несколько последних версий модели, 
поэтому может показаться, что емкость модели больше, чем на самом деле.
В работе Berglund and Raiko (2013) поставлены эксперименты для изучения сме-
щения и дисперсии оценок градиента, полученных методами CD и СМП. Показано, 
что CD дает меньшую дисперсию, чем оценка, основанная на точной выборке. У СМП 
дисперсия выше. Причина низкой дисперсии CD – в том, что в этом алгоритме одни 
и те же обучающие примеры используются в положительной, и в отрицательной фа-
зах. Если в отрицательной фазе производить инициализацию на других обучающих 
данных, то дисперсия будет выше, чем у оценки, основанной на точной выборке.
Все методы, основанные на применении MCMC для выборки из модели, в прин-
ципе, можно использовать почти с любым вариантом MCMC. Это означает, что та-
кие алгоритмы, как СМП, можно улучшить, применив любой усовершенствованный 
MCMC-метод из числа описанных в главе 17, например параллельное темперирова-
ние (Desjardins et al., 2010; Choet al., 2010).
Один из подходов к ускорению перемешивания в ходе обучения опирается не на 
изменение технологии выборки методом Монте-Карло, а на выборе другой парамет-
ризации модели и функции стоимости. В алгоритме Fast PCD, или FPCD (Тieleman 
and Hinton, 2009) параметры