Я. Гудфеллоу, И. Бенджио, А. Курвилль

β
= 
ζ
(
a
). Та же стратегия применима при использовании дисперсии или 
стандартного отклонения вместо точности, или единичной матрицы, умноженной на 
скаляр, вместо диагональной.
Редко бывает, что ковариационную матрицу или матрицу точности обучают в виде 
более сложном, чем диагональная матрица. Если ковариация полная и условная, то па-
раметризацию следует выбирать так, чтобы предсказанная ковариационная матрица 
была положительно определенной. Этого можно добиться, положив 
Σ
(
x
) = 
B
(
x
)
B
⏉
(
x
),
где 
B
– произвольная квадратная матрица. На практике, правда, возникает проблема: 
если это матрица полного ранга, то вычисление правдоподобия обходится дорого, т. к. 
вычисление определителя матрицы 
d
×
d
и обратной матрицы 
Σ
–1
(
x
) (или, что экви-
валентно и делается чаще, спектральное разложение 
Σ
(
x
) или 
B
(
x
)) имеет сложность 
O
(
d
3
).
Часто мы хотим выполнить многомодальную регрессию, т. е. предсказать веще-
ственные значения, зная условное распределение 
p
(
y
| 
x
), которое может иметь не-
сколько пиков в пространстве 
y
для одного и того же значения 
x
. В таком случае есте-
ственным представлением выхода является гауссова смесь (Jacobs et al., 1991; Bishop, 
1994). Нейронные сети с гауссовыми смесями на выходе часто называют 
сетями со