Neyron tarmoq asoslari va uni chuqur o'rganish

Дискриминантная сеть. В процессе моделирования изображений в роли дискриминантной сети обычно выступает стандартная СНС. Наличие вспомога-тельной дискриминантной сети позволяет ПСС обучать обе сети параллельно без учителя. Дискриминантная сеть принимает на входе изображение, а на выходе порождает его классификацию.
Градиент выхода дискриминантной сети по синтетическим входным данным показывает, какие небольшие изменения следует внести в синтетические данные, чтобы сделать их более реалистичными.


Порождающая сеть. Порождающая сеть в ПСС генерирует данные (или изобра­ жения) с помощью специального антисверточного (deconvolutional) слоя (подроб-нее об антисверточных сетях и слоях читайте во врезке ниже).

0. 
   процессе обучения в обеих сетях используется обратное распространение ошибки, чтобы обновить параметры порождающей сети и сделать генерируемые ей изображения более реалистичными – настолько, чтобы «обмануть» дискрими-нантную сеть.
   

Антисверточные сети
Сети этого типа были предложены Мэттью Зейлером (Matthew Zeiler) и Робом Фер-гусом (Rob Fergus) из Нью-Йоркского университета в ходе работы над сетью ZF Net

0. 
   описаны в статье «Visualizing and Understanding Convolutional Neural Networks»6 (2013). Антисверточная сеть позволяет исследовать активацию различных признаков
   
1. 
   их связь с пространством входов (рис. 4.5).
   

Рис. 4.5  Наглядное представление антисверточных слоев

0. 
   https://arxiv.org/abs/1311.2901v3.
   

116  Основные архитектуры глубоких сетей
Как показано на рис. 4.5, антисверточные слои в антисверточной сети (для краткости «deconvnet-слои») отображают признаки на пиксели изображения, т. е. выполняют операцию, противоположную той, что делает обычный сверточный слой. Именно этот аспект антисверточной сети позволяет генерировать изображения на выходе ней-ронной сети. Антисверточные сети обучаются без учителя послойно, как ГСД. В сети имеется несколько антисверточных слоев, и каждый последующий обучается на вы-ходе предыдущего. Идея заключается в том, что выход слоя является разреженным представлением его входа.