Я. Гудфеллоу, И. Бенджио, А. Курвилль

524 

 
Преодоление трудностей, связанных со статической суммой
18.7. Оценивание статистической суммы
Большая часть этой главы посвящена описанию методов, позволяющих избежать вы-
числения неразрешимой статистической суммы 
Z
(
θ
), ассоциированной с неориенти-
рованной графической моделью, но в этом разделе мы обсудим несколько методов 
прямого оценивания этой суммы.
Умение оценивать статистическую сумму нужно в случае, когда мы хотим вычис-
лить нормированное правдоподобие данных. Это важно при 
оценивании
модели, мо-
ниторинге качества обучения и сравнении моделей между собой.
Пусть, например, имеются две модели: 
ℳ
A
, определяющая распределение вероят-
ности 
p
A
(
x
; 
θ
A
) = (1/
Z
A
)
p
~
A
(
x
; 
θ
A
), и 
ℳ
B
, определяющая распределение вероятности 
p
B
(
x
; 
θ
B
) = (1/
Z
B
)
p
~
B
(
x
; 
θ
B
). Обычный способ сравнить две модели заключается в том, 
чтобы вычислить и сравнить правдоподобие, которое они назначают тестовому на-
бору независимых и одинаково распределенных данных. Предположим, что тестовый 
набор состоит из 
m
примеров {
x
(1)
, …, 
x
(
m
)
}. Если 
∏
i
p
A
(x
(
i
)
;