Я. Гудфеллоу, И. Бенджио, А. Курвилль

Глава 
12
Приложения
В этой главе мы опишем, как применить глубокое обучение к компьютерному зрению, 
распознаванию речи, обработке естественных языков и другим задачам, представляю-
щим коммерческий интерес. Начнем с обсуждения реализации крупномасштабных 
нейронных сетей, необходимых в большинстве серьезных приложений ИИ. Затем 
дадим обзор нескольких конкретных приложений, в которых глубокое обучение по-
могло найти решение. Хотя одной из основных целей глубокого обучения является 
проектирование алгоритмов, способных решать широкий круг задач, в настоящий 
момент некоторая специализация все же необходима. Например, в задачах компью-
терного зрения требуется обрабатывать много входных признаков (пикселей) для 
каждого примера. А в задачах обработки языка нужно моделировать много возмож-
ных значений (слов из словаря) на каждый входной признак.
12.1. Крупномасштабное глубокое обучение
Глубокое обучение основано на философии коннекционизма: отдельный биологиче-
ский нейрон или отдельный признак в модели машинного обучения не обладает ин-
теллектом, но большая популяция таких нейронов или признаков, действующих со-
вместно, может демонстрировать разумное поведение. Важно подчеркнуть, что число 
нейронов должно быть большим. Один из ключевых факторов, способствовавших 
повышению верности нейронных сетей и сложности решаемых ими задач в период 
начиная с 1980-х годов и по сегодняшний день, – кардинальное увеличение размера 
сетей. В разделе 1.2.3 мы видели, что на протяжении последних тридцати лет раз-
мер сетей рос экспоненциально, и тем не менее искусственные нейронные сети всего 
лишь сравнялись по размеру с нервными системами насекомых.
Поскольку размер нейронной сети играет решающую роль, для глубокого обуче-
ния необходимы высокопроизводительное оборудование и соответствующая прог-
раммная инфраструктура.