Мышление человека. 2

46) Многослойный персептрон - одна из базовых архитектур искусственных нейронных сетей, на примере которой можно объяснять принципы организации, обучения и моделирования вычислительного процесса. Поэтому далее будут рассмотрены архитектуры многослойных нейронных сетей на базе персептрона: рекуррентные, сверточные, автоэнкодерные нейронные сети. Рекуррентными нейронными сетями называются такие сети, в которых выходы нейронных элементов последующих слоев имеют синаптические соединения с нейронами предшествующих слоев. Это приводит к возможности учета результатов преобразования нейронной сетью
информации на предыдущем этапе для обработки входного вектора на
следующем этапе функционирования сети.



47) Упрощенная графическая схема рекуррентной сети


4 8) В данном варианте архитектуры рекурсия проходит 3 раза и только потом, один раз вычисляется выходное значение. Рис. Представление архитектуры «Many to One»
4 9) Представление архитектуры «One to Many»


50) Сверточные нейронные сети (convolutional neural networks, CNN)
являются дальнейшим развитием многослойного персептрона и широко используются для обработки изображений. В отличие от многослойного персептрона, сверточные нейронные сети позволяют учитывать топологию изображений и инвариантны к сдвигам, масштабированию, смещению, поворотам, смене ракурса и другим искажениям входного образа. На данный момент сверточная нейронная сеть и ее модификации считаются лучшими по точности и скорости алгоритмами нахождения объектов на сцене. Сверточная нейронная сеть состоит из разных видов слоев: сверточные (convolutional) слои, слои подвыборки (subsampling) и слои обычной нейронной сети – персептрона. Первые два типа слоев (convolutional, subsampling), чередуясь между собой, формируют входной вектор признаков для многослойного персептрона.

51) Входной сигнал изображения подается на вход нейрона только в пределах ограниченной (как правило квадратной) области представления (рис). Из общего изображения, в данном примере размером 7х7 квадратов, в начале выбирается крайний слева участок размером 3х3 (оба размера выбираются произвольно из условия задачи и общего объема данных). Для простоты данные представлены в виде битов информации в квадратах одинакового размера.
Каждая маска 3х3 подается на соответствующий нейрон, затем эта маска смещается вправо на один шаг и подается на второй нейрон. Происходит сканирование изображения с шагом 1 по горизонтали. Операция сканирования заключается в перемножении одноименных позиций маски и весовых коэффициентов нейрона (wi,j ) и их сложении.