JavaScript для глубокого обучения 2021 TensorFlow js Ббк

Часть III • Продвинутые возможности глубокого обучения с TensorFlow.js
нится соответствующим образом выходное строковое представление даты. Кроме 
того, там в виде карты интенсивности с областями различных оттенков отобража­
ется используемая в ходе преобразования матрица внимания (рис. 9.9), что делает 
интерпретацию особенно удобной для людей. Поэкспериментируйте с ней, чтобы 
познакомиться лучше.
Рассмотрим в качестве примера показанный на рис. 9.9 результат. Выходной 
сигнал модели (
"2034-07-18"
) представляет собой правильно преобразованную 
входную дату (
"JUL
18,
2034"
). Строки матрицы внимания соответствуют входным 
символам (
"J"
, 
"U"
, 
"L"
, 
"
"
и т. д.), а столбцы — выходным символам (
"2"
, 
"0"
, 
"3"
и т. д.). Таким образом, каждый из элементов матрицы внимания указывает, 
сколько внимания уделяется входному символу при генерации соответствующего 
выходного символа. Чем больше значение элемента, тем больше внимания уде­
ляется. Например, взгляните на четвертый столбец последней строки, соответ­
ствующий последнему входному символу (
"4"
) и четвертому выходному символу 
(
"4"
). Как видно по оттенку цвета, его значение довольно велико. Это логично, 
ведь последняя цифра части выходного сигнала, обозначающей год, и должна 
в основном зависеть от последней цифры части входного строкового значения, 
соответствующей году. И напротив, значения остальных элементов этого столбца, 
расположенные ниже, а значит, генерация символа 
"4"
выходного строкового зна­
чения практически не используют информацию из остальных символов входной 
строки. Аналогичные закономерности можно наблюдать и в соответствующих 
месяцу и дню частях выходной строки. Приглашаем вас поэкспериментировать 
с прочими форматами входных дат и посмотреть, как изменится матрица вни­
мания.
Рис. 9.9.
Кодировщик — декодировщик для преобразования дат, основанный 
на механизме внимания. Внизу справа отображена матрица внимания для конкретной пары 
входного/выходного сигнала

---