Я. Гудфеллоу, И. Бенджио, А. Курвилль

w
⏉
x
+ 
b
= 
b
+ 
α
i 
x
⏉
x
(
i
)
, 
(5.82)
где 
x
(
i
)
– обучающий пример, а 
α
– вектор коэффициентов. Записав алгоритм обучения 
в таком виде, мы сможем заменить 
x
результатом заданной функции признаков 
ϕ
(
x
), 
а скалярное произведение – функцией 
k
(
x
, 
x
(
i
)
) = 
ϕ
(
x
) · 
ϕ
(
x
(
i
)
), которая называется 
ядром
. Оператор · представляет скалярное произведение, аналогичное 
ϕ
(
x
)
⏉
ϕ
(
x
(
i
)
). 
Для некоторых пространств признаков использовать скалярное произведение векто-
ров в чистом виде невозможно. В некоторых бесконечномерных пространствах нуж-
ны другие виды скалярного произведения, например основанные на интегрировании, 
а не на суммировании. Разработка полной теории таких вариантов скалярного про-
изведения выходит за рамки книги. Заменив скалярные произведения вычислением 
ядра, мы можем делать предсказания, пользуясь функцией
f
(
x
) = 
b
+ 
α
i 
k
(
x
, 
x
(
i
)
). 
(5.83)
Эта функция нелинейно зависит от 
x
, но соотношение между 
ϕ
(