Я. Гудфеллоу, И. Бенджио, А. Курвилль

скрытой
, или 
латентной
, переменной. 
Латентной называется случайная величина, которую мы не наблюдаем непосредствен-
но. Примером может служить величина c, определяющая компоненту смеси распреде-
лений. Латентные переменные могут быть связаны с x совместным распределением, 
в таком случае 
P
(x, c) = 
P
(x | c)
P
(c). Распределение 
P
(c) латентной переменной и рас-
пределение 
P
(x | c), связывающее латентные переменные с видимыми, определяют 
форму распределения 
P
(x), пусть даже имеется возможность описать 
P
(x), не прибе-
гая к латентной переменной. Латентные переменные будут обсуждаться в разделе 16.5.
Очень полезна и широко употребляется модель гауссовой смеси, в которой компо-
ненты 
p
(
x
| c = 
i
) – нормальные распределения. Каждая компонента независимо па-
раметризуется средним значением 
μ
(
i
)
и ковариацией 
Σ
(
i
)
. На некоторые смеси могут 
налагаться дополнительные ограничения. Например, у разных компонент могут быть 
одинаковые ковариации, т. е. 
Σ
(
i
)
= 
Σ
, 
∀
i
. Как и в случае одного нормального распре-
деления, можно ограничиться только такими смесями, для которых ковариационная 
матрица каждой компоненты диагональная или изотропная.
Помимо средних и ковариаций, гауссова смесь параметризуется 
априорными ве-
роятностями
α
i
= 
P
(
c
= 
i
) каждой компоненты 
i
. Слово «априорная» означает, что 
речь идет о гипотезе относительно значения c до наблюдения