Я. Гудфеллоу, И. Бенджио, А. Курвилль

Y
ˆ
(1)
H
(1)
Х
V
V
V
W
U
U
U
W
Y
ˆ
(2)
H
(2)
Y
ˆ
(3)
H
(3)
Рис. 9.17 

Пример рекуррентной сверточной сети для пометки пикселей. Вхо-
дом является тензор изображения 
X
, оси которого соответствуют строкам, столб-
цам и каналам (красный, зеленый, синий) изображения. Цель – построить тензор 
меток 
Y
ˆ
, содержащий распределение вероятности меток каждого пикселя. Оси 
этого тензора соответствуют строкам, столбцам и классам. Вместо того чтобы 
выводить 
Y
ˆ
за один присест, рекуррентная сеть итеративно уточняет оценку 
Y
ˆ
, 
используя предыдущую оценку как исходные данные для вычисления новой. Для 
каждого приближения к оценке используются одни и те же параметры, количество 
уточнений может быть любым. На каждом шаге используется тензор сверточных 
ядер 
U
для вычисления скрытого представления входного изображения. Ядерный 
тензор 
V
используется для порождения оценки меток при заданных скрытых зна-
чениях. На всех шагах, кроме первого, ядра 
W
сворачиваются с 
Y
ˆ
для вычисления 
входа скрытого слоя. На первом шаге этот член заменяется нулем. Поскольку пара-
метры на всех шагах одинаковы, это пример рекуррентной сети в смысле главы 10

---

Типы данных 

305
Получив предсказания для всех пикселей, мы можем применить различные мето-
ды для последующей обработки предсказания, чтобы сегментировать изображение 
на отдельные участки (Briggman et al., 2009; Turaga et al., 2010; Farabet et al., 2013). 
Общая идея в том, что большие группы смежных пикселей предположительно ассо-
циированы с одной и той же меткой. С помощью графических моделей можно опи-
сать вероятностные связи между соседними пикселями. Или обучить сверточную 
сеть максимизировать аппроксимацию целевой функции графической модели (Ning 
et al., 2005; Thompson et al., 2014).