Я. Гудфеллоу, И. Бенджио, А. Курвилль

квадратурную пару
. Так определенная сложная клетка реагирует, когда 
взвешенное гауссово изображение 
I
(
x
, 
y
)exp(–
β
x
x
′
2
– 
β
y
y
′
2
) содержит высокоампли-
тудный синусоидальный сигнал с частотой 
f
в направлении 
τ
вблизи точки (
x
0
, 
y
0
), 
независимо от сдвига фазы. Иными словами, сложная клетка инвариантна относи-
тельно небольших параллельных переносов изображения в направлении 
τ
и инвер-
тирования изображения (замены черного на белый и наоборот).
Самые поразительные аналогии между нейробиологией и машинным обучением 
связаны с визуальным сравнением признаков, найденных в результате обучения мо-
делей, с теми, что обрабатываются зоной V1. В работе Olshausen and Field (1996) 
показано, что простой алгоритм обучения без учителя, разреженное кодирование, 
обучает признаки с рецептивными полями, напоминающими поля простых клеток. 
С тех пор было обнаружено, что самые разные алгоритмы статистического обучения 
обучают признаки с габороподобными функциями при применении к естественным 
изображениям. Сюда входит и большинство алгоритмов глубокого обучения, кото-
рые обучают эти признаки в первом слое. На рис. 9.19 показано несколько примеров. 
Поскольку существует так много разных алгоритмов обучения детекторов границ, 
трудно определенно утверждать, что некий конкретный алгоритм является «правиль-
ной» моделью мозга, исходя только из обучаемых им признаков (хотя, безуслов но, 
можно считать плохим знаком, если алгоритм не обучает какой-то детектор границ 
при применении к естественным изображениям). Эти признаки – важная составная 
часть статистической структуры естественных изображений, и восстановить их по-
зволяют разные подходы к статистическому моделированию. Обзор состояния дел 
в области статистики естественных изображений имеется в работе Hyv
ä
rinen et al. 
(2009).

---