JavaScript для глубокого обучения 2021 TensorFlow js Ббк

Глава 9. Глубокое обучение для последовательностей и текста
353
цию улавливает, а simpleRNN — нет. Но за это приходится платить большей длитель­
ностью обучения. Например, на одной из наших машин модель GRU обучается со 
скоростью 3000 мс/батч, а simpleRNN — 950 мс/батч
1
. Но если цель — предсказать 
температуру как можно точнее, эти затраты, вероятно, будут оправданны.
Рис. 9.5.
Кривые потерь при обучении модели GRU для задачи предсказания температуры. 
Сравните с кривыми потерь модели simpleRNN (см. рис. 9.3), и вы заметите, что модель GRU 
демонстрирует небольшое, но несомненное снижение максимального показателя потерь 
на проверочном наборе данных
9.2. Создание моделей глубокого обучения 
для обработки текста
В задаче предсказания температуры мы имели дело с последовательными числовыми 
данными. Но наиболее распространенный вид последовательных данных, вероятно, 
все же текст, а не числа. В алфавитных языках, таких как английский, текст можно 
рассматривать либо как последовательность символов, либо как последовательность 
слов. Эти два подхода пригодны для различных задач, что мы и покажем в этом раз­
деле. Модели глубокого обучения для текстовых данных, с которыми познакомим 
вас в следующих разделах, способны решать следующие задачи обработки текста.
z
z
Определение тональности текста (например, того, позитивен или негативен обзор 
какого­либо товара).
z
z
Классификация текста по тематике (например, выяснение, о чем говорится 
в новостной статье: политике, финансах, спорте, здоровье, погоде или прочих 
вопросах).
1 
Эти показатели получены в ходе работы tfjs­node на прикладной части на основе CPU. 
При использовании tfjs­node­gpu и прикладной части CUDA GPU обе модели будут 
обучать ся пропорционально быстрее.

---

354