Я. Гудфеллоу, И. Бенджио, А. Курвилль

12.2.1.1. Нормализация контрастности
Один из самых очевидных источников вариативности, который во многих задачах 
можно без опаски устранить, – контрастность изображения, т. е. абсолютная вели-
чина разности между яркими и темными пикселями. Существует много способов 
выразить контрастность количественно. В контексте глубокого обучения обычно 
контрастностью называют стандартное отклонение пикселей всего изображения или 
его части. Допустим, что изображение представлено тензором 
X
∈
ℝ
r
×
c
×
3
, где 
X
i
, 
j
, 1
– яр-
кость красного в точке на пересечении 
i
-й строки и 
j
-го столбца, 
X
i
, 
j
, 2
– яркость зелено-
го, а 
X
i
, 
j
, 3
– яркость синего. Тогда контрастность всего изображения равна
(12.1)
где 
X
_
– средняя яркость всего изображения:
. 
(12.2)
Цель 
глобальной нормализации контрастности
(ГНК) – уравнять контрастность 
изображения; для этого из каждого пикселя вычитается среднее значение по всему 
изображению, а затем производится нормировка изображения, так чтобы стандарт-
ное отклонение по всем пикселям было равно некоторой константе 
s
. Дополнитель-
ная сложность заключается в том, что ни при каком нормировочном коэффициенте 
невозможно изменить контрастность изображения с нулевой контрастностью (ког-
да яркость всех пикселей одинакова). Изображения с очень низкой, но ненулевой 
контрастностью обычно не несут почти никакого информационного содержания. 
Деление на истинное стандартное отклонение ничего не дает, а только усиливает 
шум сенсоров или артефакты сжатия. Поэтому вводится небольшой положительный 
регуляризационный параметр 
λ
, чтобы сместить оценку стандартного отклонения. 
Вместо этого можно наложить ограничение на знаменатель: не менее 
ε
. Если дано 
входное изображение