Кластеризация данных

Метод опорных векторов

• Метод опорных векторов (англ. SVM, support vector machine) — набор схожих алгоритмов обучения с учителем, использующихся для задач классификации и регрессионного анализа.
• Принадлежит семейству линейных классификаторов и может также рассматриваться как частный случай регуляризации по Тихонову.
• Особым свойством метода опорных векторов является непрерывное уменьшение эмпирической ошибки классификации и увеличение зазора, поэтому метод также известен как метод классификатора с максимальным зазором.

Метод опорных векторов

• Основная идея метода — перевод исходных векторов в пространство более высокой размерности и поиск разделяющей гиперплоскости с наибольшим зазором в этом пространстве.
• Две параллельных гиперплоскости строятся по обеим сторонам гиперплоскости, разделяющей классы.
• Разделяющей гиперплоскостью будет гиперплоскость, создающая наибольшее расстояние до двух параллельных гиперплоскостей.
• Алгоритм основан на допущении, что чем больше разница или расстояние между этими параллельными гиперплоскостями, тем меньше будет средняя ошибка классификатора.

Рекуррентные нейронные сети

• Рекуррентная нейронная сеть (англ. recurrent neural network, RNN) — вид нейронных сетей, где связи между элементами образуют направленную последовательность.

Области применения рекуррентных нейронных сетей

• Обработка текста на естественном языке:
• Анализ текста;
• Автоматический перевод;
• Обработка аудио:
• Автоматическое распознавание речи;
• Обработка видео:
• Прогнозирование следующего кадра на основе предыдущих;
• Распознавание эмоций;
• Обработка изображений:
• Прогнозирование следующего пикселя на основе окружения;
• Генерация описания изображений.

Виды RNN (recurrent neural network)

• Один к одному
• Один ко многим

Архитектура по сути является обычной нейронной сетью.

Один вход ко многим выходам может применяться, например, для генерации аудиозаписи. На вход подаем жанр музыки, который хотим получить, на выходе получаем последовательность аудиозаписи.