JavaScript для глубокого обучения 2021 TensorFlow js Ббк

Часть III • Продвинутые возможности глубокого обучения с TensorFlow.js
(листинг 10.8). Дело в том, что член расстояния Кульбака — Лейблера исполь­
зует два из четырех выходных сигналов модели, а в TensorFlow.js методы 
fit()
и 
fitDataset()
работают лишь в том случае, если функция потерь каждого из вы­
ходных сигналов модели не зависит ни от какого другого выходного сигнала.
Как видно из листинга 10.8, функция 
minimize()
вызывается с единственным 
аргументом — стрелочной функцией. Эта стрелочная функция возвращает потери 
для текущего батча схлопнутых изображений (
reshaped
в коде), для которого яв­
ляется замыканием. Функция 
minimize()
вычисляет градиенты функции потерь 
относительно всех обучаемых весовых коэффициентов VAE (включая кодировщик 
и декодировщик), подстраивая их согласно алгоритму ADAM, после чего применяет 
обновления к весам в направлениях, противоположных этим градиентам. На этом 
отдельный шаг обучения завершается. Отдельная эпоха обучения состоит из много­
кратного выполнения этого шага по всем изображениям из набора данных Fashion­
MNIST. Команда 
yarn
train
выполняет несколько эпох обучения (по умолчанию 5), 
после чего значение функции потерь сходится и декодировщик VAE сохраняется на 
диск. Кодировщик не сохраняется потому, что не используется в следующем шаге, 
в браузере.
Листинг 10.8.
Цикл обучения VAE (фрагмент из файла fashion-mnist-vae/train.js)
Открываемая командой 
yarn
watch
веб­страница загружает сохраненный деко­
дировщик и генерирует с его помощью таблицу изображений, примерно таких, 

---

Глава 10. Генеративное глубокое обучение
407
как показано на рис. 10.8. Эти изображения получены из равномерной коорди­
натной сетки латентных векторов двумерного латентного пространства. В UI есть 
возможность задания верхней и нижней границ по каждому из двух латентных 
измерений.
Полученная таблица изображений демон­
стрирует вполне непрерывное распределение 
различных типов одежды из набора данных 
Fashion­MNIST, где один тип одежды плав­
но переходит в другой по мере движения 
по непрерывному пути в латентном про­
странстве (например, пуловер в футболку, 
футболка в брюки, ботинки в туфли). Об­
ратите внимание на осмысленность отдель­
ных направлений латентного пространства 
внутри его подобластей. Например, в районе 
верхней части латентного пространства го­
ризонтальное измерение, по­видимому, от­
ражает «ботинкообразность или туфлеобраз­
ность»; в нижнем правом углу латентного 
пространства горизонтальное измерение, по­
видимому, отражает «футболкообразность» 
или «брюкообразность» и т. д.
В следующем разделе мы рассмотрим 
другой важнейший тип моделей для генера­
ции изображений: GAN.
10.3. Генерация изображений с помощью GAN
С тех пор как Иэн Гудфеллоу (Ian Goodfellow) и его соратники представили GAN 
в 2014
1
, интерес к этой методике начал быстро расти, а она сама — развиваться. 
Сегодня генеративные состязательные сети — мощное средство генерации изображе­
ний и прочих типов данных, способное генерировать изображения высокой четкости, 
порой неотличимые человеческим глазом от настоящих. Взгляните, например, на 
изображения человеческих лиц, сгенерированные StyleGAN компании NVIDIA, 
на рис. 10.9
2
. Если бы не редкие артефакты на лицах и ненатурально выглядящий 
фон, человеку практически невозможно было бы отличить эти сгенерированные 
изображения от настоящих.
1 
Goodfellow I. et al.
Generative Adversarial Nets // NIPS Proceedings, 2014. http://mng.
bz/4ePv.
2 
Сайт по адресу https://thispersondoesnotexist.com. Научная статья: 
Karras T., Laine S., Aila T.
A Style­Based Generator Architecture for Generative Adversarial Networks // submitted 
12 Dec. 2018. https://arxiv.org/abs/1812.04948.