Я. Гудфеллоу, И. Бенджио, А. Курвилль

x
′
| 
x
), которые задают услов-
ное распределение вероятности перехода в 
x
′
при условии нахождения в 
x
. Оператор 
перехода 
T
η
j
(
x
′
| 
x
) определяется так, чтобы 
p
η
j
(
x
) было инвариантным:
(18.51)
Эти переходы можно строить в виде любого MCMC-метода (например, Метропо-
лиса–Гастингса или Гиббса), в т. ч. и включающего несколько проходов по всем слу-
чайным величинам или какую-то другую форму итерации.
Стратегия выборки AIS заключается в том, чтобы произвести выборку из 
p
0
, а за-
тем с помощью операторов перехода последовательно порождать выборки из проме-
жуточных распределений, пока не дойдем до выборки из целевого распределения 
p
1
:
 

for 
k
= 1 … 
K
– произвести выборку 
x
η
1
(
k
)
∼ 
p
0
(
x
)
– произвести выборку 
x
η
2
(
k
)
∼ 
T
η
1
(
x
η
2
(
k
)
| 
x
η
1
(
k
)
)
– …

---

Оценивание статистической суммы 

527
– произвести выборку 
x
(
k
)
η
n
–1
∼ 
T
η
n
–2
(
x
(
k
)
η
n
–1
| 
x
(
k
)
η
n
–2
)
– произвести выборку 
x
(
k
)
η
n
∼ 
T
η
n
–1
(
x
η
n
(
k
)
| 
x
(
k
)
η
n
–1
)
 

end
Для 
k
-ой выборки мы можем вывести вес значимости, перемножив веса значимо-
сти для переходов между промежуточными распределениями в выражении (18.49):
(18.52)
Во избежание численных трудностей, в т. ч. переполнения, лучше вычислять 
log 
w
(
k
)
, складывая и вычитая логарифмы вероятностей, а не сам вес 
w
(
k
)
, для чего тре-
буется выполнять умножение и деление.
При так определенной процедуре выборки и вычисления весов значимости полу-
чается следующая оценка отношения статистических сумм:
(18.53)
Для проверки того, что эта процедура определяет корректную схему выборки по 
значимости, можно показать (Neal, 2001), что она соответствует простой выборке по 
значимости в расширенном пространстве состояний, когда точки выбираются из про-
изведения пространств [
x
η
1
, …, 
x
η
n
–1
, 
x
1
]. Для этого определим распределение в расши-
ренном пространстве:
p
~(
x
η
1
, …, 
x
η
n
–1
,