Я. Гудфеллоу, И. Бенджио, А. Курвилль

x
′
вблизи точки 
x
– такой, что 
выход модели сильно отличается в 
x
′
. Во многих случаях 
x
′
может быть настолько по-
хожа на 
x
, что человек не сможет отличить исходный пример от состязательного, од-
нако сеть будет давать совершенно разные предсказания. Пример показан на рис. 7.8.
«гиббон»
с уверенностью 99,3%
«нематода»
с уверенностью 8,2%
y
= «панда»
с уверенностью 57,7%
+ ,007 
×
=
x
sign(
∇
x 
J
(
θ
; 
x
; 
y
))
x
+ 
ε
sign(
∇
x 
J
(
θ
; 
x
; 
y
))
Рис. 7.8 

Генерация состязательного примера, примененного к сети 
GoogLeNet (Szegedy et al., 2014a) на наборе данных ImageNet. Прибавив 
к входу неощутимо малый вектор, элементы которого равны знакам эле-
ментов градиента функции стоимости, мы можем заставить GoogLeNet 
изменить классификацию изображения. Взято из работы Goodfellow et al. 
(2014b) с разрешения авторов

---

Тангенциальное расстояние, алгоритм распространения по касательной 

233
У состязательного обучения много применений, в частности в области компьютер-
ной безопасности, но они выходят за рамки этой главы. Однако же они представля-
ют интерес в контексте регуляризации, поскольку состязательное обучение позволяет 
уменьшить частоту ошибок на исходном независимом и одинаково распределенном 
тес товом наборе – путем обучения на искусственно возмущенных примерах из обучаю-
щего набора (Szegedy et al., 2014b; Goodfellow et al., 2014b). В работе Goodfellow et al. 
(2014b) показано, что одна из основных причин таких состязательных примеров – их 
избыточная линейность. Нейронные сети строятся в основном из линейных блоков. 
В некоторых экспериментах оказывалось, что в результате реализуемая ими полная 
функция почти линейна. Такие линейные функции хорошо поддаются оптимизации. 
К сожалению, значение линейной функции может очень быстро изменяться, если 
входов много. Если изменить каждый вход на 
ε
, то линейная функция с весами