Я. Гудфеллоу, И. Бенджио, А. Курвилль

x
. Напротив, 
P
(c | 
x
) на-
зывается 
апостериорной вероятностью
, потому что вычисляется после наблюдения 
x
. Модель гауссовой смеси является универсальным приближением для плотностей 
в том смысле, что любую гладкую функцию плотности можно аппроксимировать 
с любой наперед заданной точностью смесью нормальных распределений с достаточ-
но большим числом компонент.
На рис. 3.2 показаны выборки из модели гауссовой смеси.
x
1
x
2
Рис. 3.2 

Выборки из модели гауссовой смеси. Показаны три компонен-
ты. Если смотреть слева направо, то первая компонента имеет изотропную 
ковариационную матрицу, т. е. дисперсия во всех направлениях одинако-
ва. Вторая компонента имеет диагональную ковариационную матрицу, т. е. 
дисперсию можно задавать независимо вдоль каждой оси. В этом примере 
дисперсия вдоль оси 
x
2
больше, чем вдоль оси 
x
1
. Третья компонента имеет 
ковариационную матрицу полного ранга, позволяющую задавать диспер-
сии вдоль произвольного базиса

---

Полезные свойства употребительных функций 

73
3.10. Полезные свойства употребительных функций
При работе с распределениями вероятности, особенно в контексте глубокого обуче-
ния, некоторые функции встречаются очень часто.
Одна из них – 
логистическая сигмоида
:
(3.30)
Логистическая сигмоида обычно используется для порождения параметра 
ϕ
рас-
пределения Бернулли, поскольку она принимает значения из интервала (0, 1), при-
надлежащего области допустимых значений параметра 
ϕ
. На рис. 3.3 показан гра-
фик сигмоидной функции. Как видно, если абсолютное значение аргумента велико, 
то функция