Я. Гудфеллоу, И. Бенджио, А. Курвилль

97
5.1. Алгоритмы обучения
Алгоритм машинного обучения – это алгоритм, способный обучаться на данных. Но 
что мы понимаем под обучением? В работе Mitchell (1997) дано такое лаконичное 
определение: «Говорят, что компьютерная программа обучается на опыте 
E
относи-
тельно некоторого класса задач 
T
и меры качества 
P
, если качество на задачах из 
T
, 
измеренное с помощью 
P
, возрастает с ростом опыта 
E
». Можно представить себе ши-
рокое разнообразие опыта 
E
, задач 
T
и мер качества 
P
, и в этой книге мы не будем 
пытаться формально определить, что можно использовать в качестве каждой из этих 
сущностей. Вместо этого в следующих разделах мы приведем интуитивно понятные 
описания и примеры различных задач, мер качества и видов опыта, пригодных для 
конструирования алгоритмов машинного обучения.
5.1.1. Задача 
T
Машинное обучение позволяет справляться с задачами, которые слишком сложны 
для решения с помощью фиксированных программ, спроектированных и написан-
ных людьми. С научной и философской точки зрения, машинное обучение интересно 
тем, что чем лучше мы понимаем его, тем глубже становится наше понимание прин-
ципов, лежащих в основе разума.
Говоря о «задаче», сразу отметим, что сам процесс обучения задачей не является. 
Обучение – это средство, благодаря которому мы получаем возможность выполнить 
задачу. Например, если мы хотим, чтобы робот мог ходить, то хождение – это задача. 
Мы можем запрограммировать робота на обучение хождению или попробовать вруч-
ную написать программу, которая описывает, как надо ходить.
Задачи машинного обучения обычно описываются в терминах того, как система 
машинного обучения должна обрабатывать