Я. Гудфеллоу, И. Бенджио, А. Курвилль

17.5. Проблема перемешивания разделенных мод
Главная трудность, присущая MCMC-методам, – плохое 
перемешивание
. В идеале 
последовательные примеры, выбранные из марковской цепи, спроектированной для 
выборки из 
p
(
x
), должны быть абсолютно независимы, и частота попадания в различ-
ные области пространства 
x
должна быть пропорциональна вероятности области. На 
самом же деле, особенно в пространствах высокой размерности, примеры, выбранные 
MCMC-методом, оказываются сильно коррелированными. То есть налицо медленное 
перемешивание или даже полное отсутствие перемешивания. Можно считать, что 
MCMC-методы с медленным перемешиванием непреднамеренно выполняют нечто 
вроде зашумленного градиентного спуска вдоль функции энергии, или, эквивалентно, 
зашумленного восхождения на вершину функции вероятности относительно состоя-
ния цепи (отбираемых случайных величин). Цепь демонстрирует тенденцию к малым 
шагам (в пространстве состояний марковской цепи) из конфигурации 
x
(
t
–1)
в конфи-
гурацию 
x
(
t
)
, когда энергия 
E
(
x
(
t
)
) в общем случае меньше или приблизительно равна 
энергии 
E
(
x
(
t
–1)
), причем предпочтение отдается переходам в конфигурации с более 
низкой энергией. Начав с маловероятной конфигурации (энергия выше, чем для ти-
пичных примеров, выбранных из 
p
(
x
)), цепь стремится постепенно уменьшать энер-
гию состояния и лишь изредка переходит на другую моду. После того как цепь нашла 
область низкой энергии (например, в случае, когда случайными величинами являются 
пиксели изображения, областью низкой энергии может быть связное многообразие 
изображений одного и того же объекта), которую мы называем модой, она начинает 
перемещаться вокруг этой моды (совершая своего рода случайное блуждание). Вре-
мя от времени цепь покидает эту моду и либо возвращается к ней, либо (если найдет 
путь выхода) переходит к другой моде. Проблема в том, что для многих интересных 
распределений успешные пути выхода встречаются редко, поэтому марковская цепь 
продолжает выбирать примеры из одной и той же моды дольше, чем хотелось бы.
Это очень наглядно проявляется при рассмотрении алгоритма выборки по Гиббсу 
(раздел 17.4). В этом контексте рассмотрим вероятность перехода из одной моды в со-

---