Я. Гудфеллоу, И. Бенджио, А. Курвилль

5.1.3. Опыт 
E
Алгоритмы машинного обучения можно разделить на два больших класса, 
без учите-
ля
и 
с учителем
, в зависимости от того, на каком опыте они могут обучаться.
Можно считать, что большинству алгоритмов обучения, описываемых в этой кни-
ге, в качестве опыта доступен весь 
набор данных
. Набором данных называется сово-
купность большого числа примеров в смысле раздела 5.1.1. Иногда примеры называ-
ются 
замерами
, или 
точками
.
Один из самых старых наборов данных, используемых исследователями в области 
статистики и машинного обучения, – Iris (Fisher, 1936). Это результаты измерений 
различных частей 150 растений семейства ирисовых. Каждому растению соответству-
ет один пример. Признаками являются обмеры частей растения: длина чашелистика, 
ширина чашелистика, длина лепестка и ширина лепестка. Указано также, к какому 
виду относится растение. Всего в наборе данных представлены три вида.
Алгоритму обучения без учителя
в качестве опыта предъявляется набор данных, 
содержащий много признаков, а алгоритм должен выявить полезные структурные 
свойства этого набора. В глубоком обучении нас обычно интересует полное распре-
деление вероятности, описывающее предъявленный набор – явно, как в задаче оцени-
вания плотности, или неявно, как в задачах синтеза или очистки от шума. Некоторые 
алгоритмы обучения без учителя решают другие задачи, например алгоритм класте-
ризации, который должен выделить в наборе данных кластеры похожих примеров.
Алгоритму обучения с учителем
предъявляется набор данных, содержащий при-
знаки, в котором каждый пример снабжен 
меткой
, или 
целевым классом
. Так, в на-
боре данных Iris примеры аннотированы видами растений. Алгоритм должен проана-
лизировать набор Iris и научиться определять класс ириса по результатам измерений.
Грубо говоря, обучение без учителя означает наблюдение нескольких примеров 
случайного вектора