Я. Гудфеллоу, И. Бенджио, А. Курвилль

461
Рис. 15.7 

Как алгоритм, основанный на распределенном представле-
нии, разбивает пространство входов на области. В данном случае имеются 
три бинарных признака 
h
1
, 
h
2
и 
h
3
. Каждый признак определен посредством 
бинаризации выхода обученного линейного преобразования и разбивает 
ℝ
2
на две полуплоскости. Обозначим 
h
i
+
множество входных точек, для ко-
торых 
h
i
= 1, а 
h
i
–
– множество точек, для которых 
h
i
= 0. На рисунке каждая 
прямая представляет решающую границу для одного 
h
i
, а соответствую-
щая стрелка направлена в сторону 
h
i
+
от границы. Представление в целом 
принимает уникальное значение в каждой области, на которые разбивают 
плоскость три полуплоскости. Например, значение представления [1, 1, 1]
⏉
соответствует области 
h
1
+
∩ 
h
2
+
∩ 
h
3
+
. Сравните это с нераспределенными 
представлениями на рис. 15.8. В общем случае 
d
-мерного входа распре-
деленное представление разбивает 
ℝ
d
на области пересечения полупрост-
ранств, а не полуплоскостей. Распределенное представление с 
n
при-
знаками назначает уникальные коды 
O
(
n
d
)
различным областям, тогда как 
алгоритм ближайших соседей с 
n
примерами – только 
n
областям. Поэто-
му распределенное представление способно различить экспоненциально 
больше областей, чем нераспределенное. Следует иметь в виду, что не все 
значения