Neyron tarmoq asoslari va uni chuqur o'rganish

Число фильтров и карты активации

Результат применения фильтра к входной области называется картой активации, или кар-той признаков. На диаграммах СНС мы часто видим множество небольших карт активации, а как они получаются, не всегда понятно.

Число фильтров – это гиперпараметр каждого сверточного слоя. Он управляет тем, сколько карт активации порождает слой и, значит, каким будет вход следующего слоя. Его можно рассматривать как третье измерение (число карт активации) трехмерной выходной области. Число фильтров можно задавать произвольно, но одни значения работают лучше, другие хуже.

Архитектура СНС устроена так, что обученные фильтры дают максимальную активацию в ответ на пространственно-локальные входные паттерны. Это зна-чит, что каждый фильтр обучается таким образом, чтобы активироваться только в том случае, когда паттерны (или признаки) встречаются в обучающих данных

124  Основные архитектуры глубоких сетей

0. 
   его рецептивном поле. В последующих слоях СНС мы встретим фильтры, спо-собные распознавать нелинейные комбинации признаков и для которых масштаб области, где распознаются паттерны, постепенно увеличивается. Показано, что для высокоэффективных сверточных архитектур (которые мы увидим в следую-щем разделе) глубина сети является важным фактором.
   

Карты активации

Напомним (см. главу 1), что активация положительна, если нейрон решил пропус­ тить информацию. Она зависит от весов связей, поданных функции активации,

0. 
   самой этой функции. Говоря, что фильтр «активируется», мы имеем в виду, что он пропускает информацию с входа на выход.
   

На прямом проходе по СНС каждый фильтр сдвигается вдоль пространствен-ных измерений входной области (по ширине и высоте). В результате получается двумерный выход, который называется картой активации конкретного фильтра. На рис. 14.13 показано, как эта карта активации соотносится с введенным ранее понятием признака, являющимся результатом свертки.

Признак – результат свертки Карта активации