Я. Гудфеллоу, И. Бенджио, А. Курвилль

A
два ортонормированных собственных вектора: 
v
(1)
с собственным значением 
λ
1
и 
v
(2)
с собственным значением 
λ
2
. (
Слева
) 
Множество всех единичных векторов 
u
∈
R2
изображено в виде единичной 
окружности. (
Справа
) Изображено множество точек 
Au
. Наблюдая, во что 
A
переводит единичную окружность, мы можем сделать вывод, что она мас-
штабирует пространство в направлении 
v
(
i
)
с коэффициентом 
λ
i
Матрица, все собственные значения которой положительны, называется 
положи-
тельно определенной
. Если же все собственные значения положительны или рав-
ны нулю, то матрица называется 
положительно полуопределенной
. Аналогично, 
если все собственные значения отрицательны, то матрица называется 
отрицательно 
определенной
, а если отрицательны или равны нулю – то 
отрицательно полуопре-
деленной
. Положительно полуопределенные матрицы интересны тем, что для них 
выполняется неравенство 
x
⏉
Ax
≥ 
0 при любом 
x
. Положительная определенность до-
полнительно гарантирует, что 
x
⏉
Ax
= 0 
⟹
x
= 0.
2.8. Сингулярное разложение
В разделе 2.7 мы видели, как разложить матрицу по собственным векторам и собствен-
ным значениям. 
Сингулярное разложение
(singular value decomposition —SVD) – это 
другой способ разложения матрицы: по 
сингулярным векторам
и