Я. Гудфеллоу, И. Бенджио, А. Курвилль

470 

 
Структурные вероятностные модели в глубоком обучении 
непосредственно, т. е. какие графовые структуры лучше всего подходят для данной 
задачи. В разделе 16.5 мы наметим два подхода к решению этой проблемы, основан-
ных на понятии зависимости. И в разделе 16.7 завершим обсуждение, рассказав, ка-
ким подходам к графическому моделированию отдают предпочтение специалисты по 
глубокому обучению.
16.1. Проблема бесструктурного моделирования
Цель глубокого обучения состоит в том, чтобы масштабировать методы машинного 
обучения на задачи, возникающие в области искусственного интеллекта. Это озна-
чает, что мы должны понимать данные высокой размерности с развитой структурой. 
Например, мы хотели бы, чтобы алгоритмы ИИ понимали естественные изображе-
ния
1
, звуковые сигналы, соответствующие речи, и документы, содержащие много 
слов и знаков препинания.
Алгоритмы классификации могут получать входные данные из такого многомер-
ного распределения и сопоставлять им обобщающую метку категории: какой объект 
изображен на фотографии, какое слово произнесено, какой теме посвящен документ. 
В процессе классификации большая часть присутствующей во входных данных ин-
формации отбрасывается и порождается единственный выход (или распределение 
вероятности значений выхода). Кроме того, классификатор часто способен игнори-
ровать многие части входа. Например, при распознавании объекта на фотографии мы 
обычно можем игнорировать фон.
Вероятностную модель можно попросить выполнить эти и многие другие задачи. 
Зачастую они обходятся дороже классификации. Некоторые из них порождают не-
сколько выходных значений. Большинство требует полного понимания структуры 
входных данных в целом, не допуская игнорирования отдельных участков. К числу 
таких задач относятся следующие:
 

оценка плотности.
По входу