JavaScript для глубокого обучения 2021 TensorFlow js Ббк

Глава 5. Перенос обучения: переиспользование предобученных нейронных сетей
209
ИНФОБОКС 5.2. Классификация методом k-ближайших соседей 
на основе вложений
Решать задачи классификации в машинном обучении можно и без помощи нейронных 
сетей. Один из самых известных подобных подходов — алгоритм k­ближайших сосе­
дей (kNN). В отличие от нейронных сетей, в алгоритме kNN отсутствует этап обучения 
и он намного понятнее.
Работу метода классификации kNN можно описать в нескольких фразах.
1. Выбираем положительное целое число 
k
(например, 3).
2. Собираем определенное число эталонных примеров данных с метками истинных 
классов. Обычно число эталонных примеров хотя бы в несколько раз превышает 
k
. 
Примеры представляются в виде наборов вещественных чисел — 
векторов
. Этот шаг 
схож со сбором обучающих примеров данных при использовании нейронных сетей.
3. Для предсказания класса нового входного сигнала вычисляются расстояния между 
векторным представлением этого сигнала и каждого из эталонных примеров данных. 
Затем расстояния сортируются, чтобы найти 
k
эталонных примеров, ближайших 
к входному сигналу в векторном пространстве. Они и называются 
k
ближайшими 
соседями входного сигнала (в честь чего алгоритм и получил свое название).
4. Выбираем класс, чаще всего встречающийся среди классов 
k
ближайших соседей, 
в качестве предсказания для входного сигнала. Другими словами, 
k
ближайших 
соседей выбирают предсказываемый класс путем своеобразного голосования.
Пример использования этого алгоритма показан на следующем рисунке.
Пример kNN-классификации в двумерном пространстве вложений. В данном случае k = 3, 
а классов два (треугольники и круги). Имеется пять эталонных примеров данных для класса 
«треугольник» и семь — для класса «круг». Три ближайших соседа входного сигнала 
показаны отрезками прямых. А поскольку два из трех ближайших соседей — круги, 
то и предсказан будет класс «круг»

---

210