Я. Гудфеллоу, И. Бенджио, А. Курвилль

обратной корреляции
(Ringach and Shapley, 
2004), показывает, что веса большинства клеток зоны V1 описываются 
функциями 
Габора
. Функция Габора описывает вес в точке двумерного изображения. Можно 
считать изображение функцией координат на двумерной плоскости, 
I
(
x
, 
y
). Анало-
гично простую клетку можно рассматривать как выборку из изображения во множе-

---

312 

 
Сверточные сети
стве позиций, определяемую множествами абсцисс 
𝕏 
и ординат
𝕐
, с последующим 
применением весов, которые также являются функциями позиции, 
w
(
x
, 
y
). Тогда от-
клик простой клетки на изображение имеет вид
(9.15)
Точнее говоря, 
w
(
x
, 
y
) – функция Габора:
w
(
x
, 
y
, 
α
, 
β
x
, 
β
y
, 
f
, 
ϕ
, 
x
0
, 
y
0
, 
τ
) = 
α
exp(–
β
x
x
′
2
– 
β
y 
y
′
2
)cos(
fx
′
+ 
ϕ
), 
(9.16)
где
x
′
= (
x
– 
x
0
)cos(
τ
) + (
y
– 
y
0
)sin(
τ
) 
(9.17)
и
y
′
= –(
x
– 
x
0
)sin(
τ
) + (
y
– 
y
0
)cos(
τ
). 
(9.18)
Здесь 
α
, 
β
x
, 
β
y
, 
f
, 
ϕ
, 
x
0
, 
y
0
и 
τ
– параметры, определяющие свойства функции Габора. 
На рис. 9.18 приведено несколько примеров функций Габора с разными значениями 
параметров.
Параметры 
x
0
, 
y
0
и 
τ
определяют систему координат. Для получения 
x
′
и 
y
′
из 
x
и 
y
производятся параллельный перенос и поворот. Точнее, простая клетка реагирует на 
признаки изображения с центром в точке (
x
0
, 
y
0
) и на изменения яркости при движе-
нии вдоль прямой, повернутой на угол 
τ
радиан относительно горизонтальной оси.
Рис. 9.18 

Функция Габора с различными параметрами. Белым цветом 
обозначен большой положительный вес, черным – большой отрицательный 
вес, а серым фоном – нулевой вес. (
Слева
) Функции Габора с различными 
параметрами, описывающими систему координат: 
x
0
, 
y
0
и 
τ
. Каждой функ-
ции Габора в этой сетке соответствуют значения 
x
0
и 
y
0
, пропорциональные 
ее позиции в сетке, а 
τ
выбрано так, чтобы фильтр Габора бы чувствителен 
к направлению, исходящему из центра сетки. На двух остальных графиках 
x
0
, 
y
0
и 
τ
равны нулю. (
В центре
) Функции Габора с разными значениями 
параметров гауссианы 
β
x
и 
β
y
. Функции расположены в порядке возраста-
ния ширины (убывания 
β
x
) при движении по сетке слева направо и в поряд-
ке возрастания высоты (убывания 
β
y
) при движении сверху вниз. На двух 
остальных графиках значения 
β
фиксированы и равны ширине изображе-
ния, умноженной на 1.5. (
Справа
) Функции Габора с различными парамет-
рами синусоиды 
f
и 
ϕ
. При движении по сетке сверху вниз возрастает 
f
, 
а при движении слева направо возрастает 
ϕ
. На двух остальных графиках
ϕ
= 0, а f в 5 раз больше ширины изображения

---

Нейробиологические основания сверточных сетей 

313
Функция 
w
, рассматриваемая как функция от 
x
′
и 
y
′
, реагирует на изменение ярко-
сти вдоль оси 
x
′
. Она является произведением двух важных сомножителей: функции 
Гаусса и косинуса. Первый сомножитель 
α
exp(–
β
x
x
′
2
– 
β
y
y
′
2
) можно рассматривать 
как вентиль, гарантирующий, что простая клетка будет реагировать только на значе-
ния в окрестности точки с нулевыми координатами 
x
′
и 
y
′
, иными словами, вблизи 
центра рецептивного поля клетки. Масштабный коэффициент 
α
задает абсолютную 
величину отклика простой клетки, а параметры 
β
x
и 
β
y
определяют скорость спадания 
рецептивного поля.
Множитель cos(
fx
′
+ 
ϕ
) определяет реакцию простых клеток на изменение яркости 
вдоль оси 
x
′
. Параметр 
f
– частота косинусоиды, а 
ϕ
– сдвиг фазы.
Собирая все вместе, можно сказать, что это схематичное представление означает, 
что простая клетка реагирует на определенную пространственную частоту яркости 
в определенном направлении и в определенном месте. Возбуждение простой клетки 
максимально, если сигнал яркости в изображении имеет такую же фазу, как веса. Это 
происходит, когда изображение яркое в области положительности весов и темное – 
в области отрицательности. Торможение простых клеток максимально, когда сигнал 
яркости находится в противофазе с весами – изображение темное там, где веса по-
ложительны, и яркое – там, где веса отрицательны.
Схематичное представление сложной клетки состоит в том, что она вычисля-
ет норму 
L
2
двумерного вектора, содержащего отклики двух простых клеток: 
c
(
I
) = 
= 
Важный частный случай – когда совпадают все параметры 
s
1
и 
s
0
, 
кроме 
ϕ
, а 
ϕ
задан так, что сдвиг фазы 
s
1
и 
s
0
равен четверти периода. В этом случае 
s
0
и 
s
1
образуют