JavaScript для глубокого обучения 2021 TensorFlow js Ббк

Часть II • Введение в TensorFlow.js
именно 
шесть
слоев? Потому, что эти слои связаны сугубо с задачей 1000­классовой 
классификации, для которой изначально обучалась модель MobileNet. В ожидающей 
нас задаче четырехклассовой классификации они ничем не помогут.
Рис. 5.7.
Схематическая иллюстрация создания новой (усеченной) модели из MobileNet. 
Соответствующий код — см. вызов tf.model() в листинге 5.3
Рассмотрим подробнее рис. 5.7. У всех слоев есть входной сигнал и выходной 
сигнал, представляющие собой экземпляры класса 
SymbolicTensor
. В исходной 
модели 
SymbolicTensor0
представляет собой входной сигнал первого слоя (он же 
входной сигнал модели в целом). Он служит входным символическим тензором 
новой модели. Кроме того, выходной символический тензор промежуточного слоя 
(эквивалентного conv_pw_13_relu) используется в качестве выходного тензора 
новой модели. Таким образом, получается модель, состоящая из двух первых слоев 
исходной модели, показанная в нижней части схемы. Последний (выходной) слой 
исходной модели, иногда называемый верхушкой модели, мы отбрасываем. Именно 
по этой причине подобный подход иногда называют 
усечением
модели. Учтите, что 
ради ясности модели на этой схеме включают лишь небольшое число слоев. В коде 
из листинга 5.3 модель состоит из гораздо большего числа слоев (93), чем приве­
денная на схеме.

---

Глава 5. Перенос обучения: переиспользование предобученных нейронных сетей
205
Перенос обучения на основе вложений
Выходным сигналом усеченной MobileNet служит функция активации промежуточ­
ного слоя исходной MobileNet
1
. Но чем для нас полезны активации промежуточных 
слоев из MobileNet? Ответ заключается в функции, обрабатывающей события на­
жатия и удержания каждого из четырех черных квадратов (листинг 5.4). Каждый раз 
при получении входного изображения от веб­камеры (с помощью метода 
capture()
) 
вызывается метод 
predict()
усеченной MobileNet, а выходной сигнал сохраняется 
в объекте 
controllerDataset
, чтобы его можно было позднее использовать при пере­
носе обучения.
Но как интерпретировать выходной сигнал усеченной MobileNet? Для каждого 
входного изображения он представляет собой тензор формы 
[1,
7,
7,
256]
. Это 
не вероятности для задачи классификации и не предсказанные значения для задачи 
регрессии, а представление входного изображения в многомерном (7 
×
7 
×
256, то 
есть примерно 12 500 измерений) пространстве. И хотя число измерений в этом про­
странстве очень велико, по сравнению с исходным изображением (224 
×
224 
×
3 
≈
≈ 
150 000 измерений) оно относительно низкой размерности. Так что можно считать 
выходной сигнал усеченной MobileNet эффективным представлением изображения. 
Подобное представление пониженной размерности для входных данных часто на­
зывают 
вложением
(embedding). В основе нашего переноса обучения лежат вложения 
четырех множеств изображений, полученных с веб­камеры.