JavaScript для глубокого обучения 2021 TensorFlow js Ббк

Часть III • Продвинутые возможности глубокого обучения с TensorFlow.js
(отстой) и 
bland
(примитив) — с негативными с довольно высокой степенью досто­
верности. Конечно, существует множество случаев, когда учет только того, из каких 
слов состоит обзор, приводит к ложным выводам. В качестве примера рассмотрим 
предложение 
Don't get me wrong, I hardly disagree this is an excellent film
, для выясне­
ния истинного смысла которого необходимо учесть информацию о последователь­
ности — не только сами слова, но и порядок, в котором они стоят в предложении. 
В следующем разделе мы покажем, что с помощью векторизации текста, при кото­
рой информация о последовательности не отбрасывается, и модели, способной эту 
информацию учитывать, можно превзойти указанную эталонную степень безоши­
бочности. Давайте взглянем теперь, что представляют собой вложения слов и как 
работают одномерные сверточные сети.
Листинг 9.6.
Создание MLP-модели для федеративно кодированных обзоров фильмов IMDb
9.2.3. Более
эффективное представление текста — 
вложения слов
Что такое 
вложение слов
(word embedding)? Подобно унитарному кодированию 
(см. рис. 9.6), вложение слов — способ представления слов в виде векторов (одно­
мерных тензоров в TensorFlow.js). Однако при использовании вложений слов можно 
усваивать значения элементов векторов, а не жестко «зашивать» их в соответствии 
со строгими правилами наподобие карты соответствий слов индексам в унитарном 
представлении. Другими словами, когда применяется ориентированная на обработку 
текста нейронная сеть вложений слов, векторы этих вложений становятся обучае­
мыми весовыми параметрами модели и обновляются посредством того же процесса 
обратного распространения, что и прочие весовые параметры модели.
Эта ситуация схематически изображена на рис. 9.7. Для работы с вложения­
ми слов в TensorFlow.js предназначен тип слоя 
tf.layer.embedding()
, содер­
жащий обучаемую матрицу весов формы 
[vocabularySize,
embeddingDims]
, где 
vocabularySize
— число уникальных слов в словаре, а 
embeddingDims
— выбранная 
пользователем размерность векторов вложений. При получении слова, допустим, 
the
мы находим с помощью поисковой таблицы соответствий слов индексам нужную 

---