Neyron tarmoq asoslari va uni chuqur o'rganish

Что такое набор данных CIFAR-10?
CIFAR-10 – хорошо известный эталонный набор данных для классификации изобра­ жений14, созданный Алексом Крижевским, Винодом Наиром и Джефри Хинтоном. На-бор состоит из 60 000 цветных изображений, разбитых на 10 классов по 6000 изо-бражений в каждом. Размер каждого изображения – 32 × 32 пикселя. В наборе 50 000 обучающих и 10 000 тестовых изображений.На рис.4.8 показаны классы изображений.


Рис. 4.8  Набор данных CIFAR-10

Классы не пересекаются, т. е. на изображении грузовика будет только грузовик и ни-чего более. Размер набора составляет примерно 170 МБ.

0. 
   http://www.cs.toronto.edu/~kriz/cifar.html.
   

120  Основные архитектуры глубоких сетей
Типичное изображение вряд ли будет меньше, чем 300 × 300 пикселей с 3 цвето-выми каналами. Это получается 270 000 связей на один скрытый нейрон. Так что

0. 
   полносвязной многослойной сети количество связей при моделировании дан-ных изображений очень быстро возрастает. Но мы можем изменить архитектуру нейронной сети, так чтобы воспользоваться присущей изображению структурой. В СНС мы можем организовать нейроны в виде трехмерной структуры, имеющей три измерения: ширину, высоту и глубину.
   

Им соответствуют:


 ширина изображения в пикселях;  высота изображения в пикселях;  количество RGB-каналов.

Эту структуру можно рассматривать как трехмерный массив нейронов. Важно, как благодаря новым типам слоев СНС добивается вычислительной эффективно-сти. Мы рассмотрим этот вопрос чуть ниже, а пока обратимся к высокоуровнево-му представлению архитектуры СНС.

Общий взгляд на архитектуру СНС

СНС получает входные данные, преобразует их с помощью ряда взаимосвязанных слоев и на выходе выдает набор вероятностей классов. Существует много вариан-тов архитектуры СНС, но все они основаны на чередовании слоев, показанных на рис. 4.9.

Свертка ReLU

Пулинг

Свертка

ReLU

Пулинг

Полносвязный

Входной слой

Слои выделения признаков

Слои классификации

Рис. 4.9  Высокоуровневое представление архитектуры СНС

На рис. 4.9 показаны три основные группы:

1) входной слой;

2) слои выделения признаков (обучающиеся);

3) слои классификации.

Входной слой принимает трехмерный сигнал, обычно в виде прямоугольного изображения с глубиной, представляющей цветовые каналы (как правило, три ка-нала в формате RGB).