Я. Гудфеллоу, И. Бенджио, А. Курвилль

534 

 
Приближенный вывод
(19.9)
Это называется выводом 
апостериорного максимума
, или MAP-выводом.
MAP-вывод обычно не считается приближенным выводом, т. к. он сводится к точ-
ному вычислению самого вероятного значения 
h
*
. Однако если мы хотим разработать 
процесс обучения, основанный на максимизации 
ℒ
(
v
, 
h
, 
q
), то полезно рассматривать 
MAP-вывод как процедуру, поставляющую значение 
q
. В этом смысле можно интер-
претировать MAP-вывод как приближенный вывод, поскольку он не дает оптималь-
ного 
q
.
Напомним (см. раздел 19.1), что точный вывод заключается в максимизации 
функции
ℒ
(
v
, 
θ
, 
q
) = 
𝔼
h
∼
q
[log 
p
(
h
, 
v
)] + H(
q
) 
(19.10)
относительно 
q
на неограниченном семействе распределений вероятности с приме-
нением точного алгоритма оптимизации. Мы можем определить MAP-вывод как вид 
приближенного вывода, ограничив семейство распределений, из которого выбирает-
ся 
q
. Точнее говоря, потребуем, чтобы 
q
было распределением Дирака:
q
(
h
| 
v
) = 
δ
(
h
– 
μ
). 
(19.11)
Это означает, что теперь мы можем управлять 
q
с помощью одного лишь параметра 
μ
. Если опустить члены 
ℒ
, не зависящие от 
μ
, то остается такая задача оптимизации:
(19.13)
эквивалентная задаче MAP-вывода
(19.13)
Таким образом, мы можем обосновать процедуру обучения, похожую на EM-ал-
горитм, в которой MAP-вывод