Neyron tarmoq asoslari va uni chuqur o'rganish

Полносвязные слои

Такой слой вычисляет вероятности классов, выдаваемые сетью на выходе (напри-мер, это может быть последний слой сети). Размер выхода равен [1 × 1 × N], где N – число вычисляемых выходных классов. В случае набора данных CIFAR N равно 10, т. к. в этот набор входят изображения, разбитые на 10 классов. Каждый нейрон полносвязного слоя связан со всеми нейронами предыдущего слоя.

0. 
   полносвязных слоев имеются обычные параметры и гиперпараметры. К вход-ным данным применяется преобразование, зависящее от параметров (весов свя-зей и смещений нейронов).
   

Несколько полносвязных слоев

0. 
   некоторых архитектурах СНС применяется несколько полносвязных слоев, находящихся в конце сети. Примером может служить сеть AlexNet: в ней есть два полносвязных слоя, за которыми следует слой softmax.
   

Другие применения СНС

Помимо двумерных изображений, СНС применялись и к трехмерным наборам данных, например:

 данные МРТ20;
 трехмерные объекты21;
 графы22;
 обработка естественных языков23.

0. 
   Milletari, Navab and Ahmadi, 2016. V-Net: Fully Convolutional Neural Networks for Volumetric Medical Image Segmentation // https://arxiv.org/abs/1606.04797.
   
1. 
   Maturana and Scherer, 2015. VoxNet: A 3D Convolutional Neural Network for Real-Time Object Recognition // https://www.ri.cmu.edu/pub_files/2015/9/voxnet_maturana_scherer_iros15.pdf.
   

0. 
   Henaff, Bruna and LeCun, 2015. Deep Convolutional Networks on Graph-Structured Data // https://arxiv.org/abs/1506.05163.
   
1. 
   Conneau et al., 2016. Very Deep Convolutional Networks for Text Classification // https://arxiv. org/abs/1606.01781.
   

130  Основные архитектуры глубоких сетей
Свойство позиционной инвариантности СНС оказалось полезно во всех этих задачах, поскольку необязательно вручную кодировать появление признаков в определенных местах входного вектора.