Я. Гудфеллоу, И. Бенджио, А. Курвилль

90 

 
Численные методы
–15
–15
500
–500
0
0
0
x
1
x
2
15
15
f
(
x
1
, 
x
2
)
Рис. 4.5 

Седловая точка, в которой присутствует как положительная, 
так и отрицательная кривизна. Представлен график функции 
f
(
x
) = 
x
1
2
– 
x
2
2
. 
Вдоль оси 
x
1
функция изгибается вверх. Направление этой оси – собствен-
ный вектор матрицы Гессе с положительным собственным значением. 
Вдоль оси 
x
2
функция изгибается вниз. Это направление собственного век-
тора матрицы Гессе с отрицательным собственным значением. Название 
«седловая точка» связано с тем, что эта поверхность напоминает седло. 
Это хрестоматийный пример функции с седловой точкой. В многомерном 
случае для наличия седловой точки необязательно, чтобы собственное 
значение было равно 0; необходимо лишь, чтобы существовали как поло-
жительные, так и отрицательные собственные значения. В седловой точке, 
соответствующей собственным значениям разных знаков, в одном сечении 
достигается локальный максимум, а в другом – локальный минимум
Эту проблему можно решить, используя матрицу Гессе для управления поиском. 
Простейший метод такого рода известен под названием 
метода Ньютона
. Он основан 
на разложении 
f
(
x
) в ряд Тейлора с точностью до членов второго порядка в окрест-
ности точки 
x
(0)
:
f
(
x
) 
≈
f
(
x
(0)
) + (
x
–