Я. Гудфеллоу, И. Бенджио, А. Курвилль

Часть 
II
ГЛУБОКИЕ СЕТИ:
СОВРЕМЕННЫЕ
ПОДХОДЫ
В этой части книги описано современное состояние глубокого обучения – как оно 
применяется для решения практических задач.
У машинного обучения долгая история и многочисленные притязания. Ряд под-
ходов пока не принес желанных плодов. Некоторые амбициозные планы еще ждут 
своей реализации. Разговор об этих, не столь детально разработанных, разделах глу-
бокого обучения мы отложим до третьей части книги.
А в этой части сосредоточимся на тех подходах, которые доведены до уровня рабо-
тающих технологий и широко применяются в промышленности.
Современное глубокое обучение предлагает развитую инфраструктуру обучения 
с учителем. Благодаря добавлению дополнительных слоев и блоков в пределах од-
ного слоя глубокая сеть может представлять все более и более сложные функции. 
Большинство задач, сводящихся к отображению входного вектора на выходной, с ко-
торыми человек справляется легко и непринужденно, может быть решено методами 
глубокого обучения при наличии достаточно больших моделей и наборов помечен-
ных примеров. Другие задачи, которые нельзя описать как ассоциирование одного 
вектора с другим, или настолько трудные, что человеку нужно время для их решения, 
пока не поддаются глубокому обучению.
В этой части книги описаны базовые технологии аппроксимации параметрических 
функций, лежащие в основе почти всех практических приложений глубокого обуче-
ния. Мы начнем с модели глубокой сети прямого распространения, используемой для 
представления таких функций. Затем мы представим передовые методы регуляриза-
ции и оптимизации таких моделей. Для масштабирования моделей на большой объем 
входных данных, например на изображения высокого разрешения или на длинные вре-
менные последовательности, необходима специализация. Мы познакомимся со свер-
точной сетью, применяемой для масштабирования на большие изображения, и с рекур-
рентной нейронной сетью для обработки временных последовательностей. Наконец, 
мы дадим общие рекомендации по практическому проектированию, построению и на-
стройке приложений глубокого обучения и приведем обзор некоторых приложений.
Эти главы наиболее интересны для специалистов-практиков – тех, кто хочет уже 
сегодня приступить к реализации и использованию алгоритмов глубокого обучения.

---