JavaScript для глубокого обучения 2021 TensorFlow js Ббк

Глава 3. Вводим нелинейность: теперь не только взвешенные суммы
139
[1, 0, 0],
[1, 0, 0],
...,
[1, 0, 0],
[1, 0, 0],
[1, 0, 0]]
или
Value of targets: (50) [1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 
1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 
1, 1, 1, 1, 1, 1, 1, 1, 1]
Tensor
[[0, 1, 0],
[0, 1, 0],
[0, 1, 0],
...,
[0, 1, 0],
[0, 1, 0],
[0, 1, 0]]
и т. д. Иными словами, примеру данных с числовой меткой 0 соответствует строка 
значений 
[1,
0,
0]
; примеру данных с числовой меткой 1 соответствует строка зна­
чений 
[0,
1,
0]
и т. д. Это простой и понятный пример унитарного кодирования: 
целочисленная метка превращается в вектор, состоящий из всех нулей и одной еди­
ницы — на позиции, соответствующей этой метке. Длина вектора равна количеству 
всех возможных категорий. Именно потому, что в векторе содержится только одно 
значение 
1
, эта схема кодирования и называется унитарной.
Возможно, такое кодирование покажется вам слишком запутанным. Зачем ис­
пользовать три числа в качестве представления категории, когда достаточно одного? 
Почему этот вариант кодирования предпочтительнее более простого и экономичного 
кодирования с одним целочисленным индексом? Чтобы разобраться, стоит взгля­
нуть на эту схему кодирования с двух различных сторон.
Во­первых, нейронной сети гораздо проще выдавать непрерывные вещественные 
значения, а не целочисленные. Округление выходного сигнала вещественного типа 
также представляется не слишком изящным решением. Намного более изящно 
и естественно будет, если последний слой нейронной сети станет выдавать несколько 
отдельных вещественных чисел, ограниченных интервалом 
[0,
1]
, благодаря спе­
циально подобранной функции наподобие сигма­функции активации, которую мы 
использовали для бинарной классификации. При таком подходе каждое из чисел 
отражает оценку моделью вероятности того, что входной пример принадлежит к со­
ответствующему классу. Именно для этого и предназначено унитарное кодирование: 
оно представляет собой «правильный ответ» для оценок вероятностей, на который 
модель должна ориентироваться в процессе обучения.
Во­вторых, благодаря целочисленному кодированию категорий классы неяв­
ным образом упорядочиваются. Например, можно задать для ириса щетинистого 
метку 0, для ириса разноцветного — метку 1, а для ириса виргинского — метку 2. 
Но подобные схемы упорядочения зачастую выглядят неестественно и их выбор 

---

140