Я. Гудфеллоу, И. Бенджио, А. Курвилль

Предметный указатель
А
Абсолютная ректификация, 
170
Автокодировщик, 
24
, 
302
, 
422
Автокодировщик, взвешенный по значимости, 
585
Автоматическое распознавание речи, 
385
Адамара произведение, 
46
Адаптация домена, 
451
Адаптивный линейный элемент, 
32
, 
39
, 
40
Адресация по содержимому, 
352
Активное ограничение, 
93
Аморальность, 
484
Анализ медленных признаков, 
415
Анализ независимых компонент, 
413
Анализ независимых подпространств, 
415
Ансамблевые методы, 
222
Априорное распределение вероятности, 
126
АРР. 
См. 
Автоматическое распознавание речи
Асимптотически несмещенная, 
117
Аудиосигнал, 
99
, 
305
, 
385
Аффинное преобразование, 
105
Б
Баггинг, 
222
База знаний, 
22
, 
406
Байесовская вероятность, 
63
Байесовская оптимизация гиперпараметров, 
367
Байесовская ошибка, 
110
Байесовская сеть. 
См.
Ориентированная 
графическая модель
Байесовская статистика, 
125
Бернулли распределение, 
68
Биграмма, 
388
Бинарная функция потерь, 
100
, 
239
Бинарное отношение, 
406
Блоки с утечкой, 
343
Блок линейной ректификации, 
154
, 
170
, 
358
, 
426
Блочная выборка по Гиббсу, 
503
Бодрствование-сон, 
546
Больцмана машина, 
478
, 
548
Больцмана распределение, 
478
В
Вапника-Червоненкиса размерность, 
109
Вариационное исчисление, 
159
Вариационной свободной энергией. 
См
. Нижняя 
граница свидетельств
Вариационный автокодировщик, 
583
Вариационными производными.
См
. Функциональная производная
Вектор, 
44
Вентиль забывания, 
263
Вентильная рекуррентная сеть, 
358
Верность, 
356
Вероятностный max-пулинг, 
572
Вероятностный метод главных компонент, 
412
, 
531
Веса, 
32
, 
103
Видимый слой, 
25
Виртуальные состязательные примеры, 
233
Восхождение на вершину, 
86
Вторая производная, 
87
Выборка по Гиббсу, 
488
, 
503
Выборка по значимости, 
497
, 
524
Выборка по значимости с отжигом, 
525
, 
560
, 
601
Выборочное среднее, 
118
Вывод, 
472
, 
490
, 
530
, 
533
, 
535
, 
544
, 
545
Выпуклая оптимизации, 
130
Выходной слой, 
150
Г
Габора функция, 
311
Гармониум. 
См
. Ограниченная машина
Больцмана
Гармония, 
479
Гауссова смесь, 
72
, 
167
Гауссово ядро, 
131
Генераторная сеть, 
581
Гессе матрица, 
87
Гессиан, 
87
, 
195
Гетероскедастическая модель, 
166
Гиперпараметры, 
114
, 
362
Гипотеза о многообразии, 
146
Главная диагональ, 
45
Глобальная нормализация контрастности, 
382
Глубокая машина Больцмана, 
39
, 
40
, 
445
, 
530
, 
547
, 
551
, 
555
, 
562
Глубокая сеть доверия, 
40
, 
445
, 
530
, 
551
, 
553
, 
580
Глубокая сеть прямого распространения, 
150
Глубокое обучение, 
21
, 
24
ГМБ. 
См
. Глубокая машина Больцмана
ГНК. 
См
. Глобальная нормализация 
контрастности
Градиент, 
86
Градиентный спуск, 
84
, 
86
Граф вычислений, 
179
Графический процессор, 
374
Графической моделью. 
См
. Структурная 
вероятностная модель
Гребневая регрессия, 
201
ГСД. 
См
. Глубокая сеть доверия
Д
Дважды блочно-циркулянтная матрица, 
284
Двойное обратное распространение, 
236
Декодер, 
24
Дельта-функция Дирака, 
71
Детекторная стадия, 
290

---

Предметный указатель 

647
Диагональная матрица, 
51
Динамическая структура, 
377
Дискриминантная окончательная настройка, 
554
Дискриминантная ОМБ, 
574
Дисперсия, 
67
Дифференциальная энтропия, 
77
, 
542
Долгая краткосрочная память, 
34
, 
344
, 
358
Дрейф концепций, 
452
Е
Евклидова норма, 
50
Единичная матрица, 
47
Единичный вектор, 
52
Естественное изображение, 
470
Ж
Жадное послойное предобучение
без учителя, 
444
Жадное предобучение с учителем, 
277
Жадный алгоритм, 
276
И
Идентифицируемость модели, 
245
Изотропное нормальное распределение, 
70
Инвариантность, 
290
Инициализация параметров, 
258
, 
343
Информационный поиск, 
441
Искусственный интеллект, 
21
Использование, 
405
Исследование, 
405
К
Карта признаков, 
283
Каруша-Куна-Таккера условия, 
94
, 
206
Касательная плоскость, 
433
Категориальное распределение, 
68
Квадратурная пара, 
313
Квазиньютоновские методы, 
271
Классификатор по касательной
к многообразию, 
236
Классификация, 
97
Классическая динамическая система, 
317
Классовые языковые модели, 
390
Ковариационная матрица, 
68
Ковариация, 
67
Кодировщик, 
24
Коллаборативна фильтрация, 
402
Коллектив экспертов, 
378
, 
460
Коллизия, 
482
Компьютерное зрение, 
380
Коннекционизм, 
34
, 
373
Контекстная независимость, 
481
Контекстуальные бандиты, 
404
Контрастность, 
382
Короткий список, 
392
Корреляция, 
67
Критическая температурая, 
506
Крылова методы, 
195
Кульбака-Лейблера расхождение, 
77
Л
Лагранжа множители, 
92
, 
542
Лапласа распределение, 
70
, 
417
, 
418
Латентная переменная, 
72
Линейная зависимость, 
49
Линейная комбинация, 
49
Линейная оболочка, 
49
Линейная регрессия, 
103
, 
105
, 
129
Линейные факторные модели, 
411
Линейный поиск, 
86
, 
92
Липшица условие, 
91
Логистическая регрессии, 
22
, 
130
Логистическая сигмоида, 
27
, 
73
Локальная нормализация контрастности, 
384
Локальное условное распределение
вероятности, 
473
М
Максимальная норма, 
51
Максимальное правдоподобие, 
122
Маргинальное распределение вероятности, 
65
Марковская сеть. 
См
. Неориентированная модель 
Марковская цепь, 
499
Марковское случайное поле.
См
. Неориентированная модель 
Массивы, типы больших массивов. 
См
. Типы 
больших массивов
Математическое ожидание, 
66
Матрица, 
45
Матрица плана, 
102
Машина неустойчивых состояний, 
341
Машинное обучение, 
22
Машинный перевод, 
98
Метод главных компонент, 
57
, 
135
, 
412
, 
530
Метод конечных разностей, 
369
Метод малых возмущений, 
576
Метод наискорейшего спуска. 
См
. Градиентный 
спуск
Метод опорных векторов, 
130
Методы Монте-Карло по схеме марковской
цепи, 
499
Методы продолжения, 
280
Минимизация эмпирического риска, 
238
Минипакет, 
241
Многозадачное обучение, 
212
, 
452
Многомерное нормальное распределение, 
70
Многомодальное обучение, 
454
Многообразие, 
145
Многопредсказательная ГМБ, 
563
Многослойный перцептрон, 
26
, 
40
Моральный граф, 
484
МП-ГМБ. 
См
. Многопредсказательная ГМБ
МСП. 
См
. Многослойный перцептрон
Мультиномиальное распределение, 
68
Мура-Пенроуза псевдообращение, 
55
, 
208
Н
Набор данных, 
101
Набор слов, 
396

---

648 

 
Предметный указатель
Наивный байесовский классификатор, 
22
Нат, 
77
Независимость, 
66
Нейробиология, 
32
Нейронная машина Тьюринга, 
351
Нейронная сеть, 
31
Нейронная сеть прямого распространения, 
150
Нейронная языковая модель, 
390
, 
401
Нейронные сети с временной задержкой, 
311
Ненормированное распределение вероятности, 
476
Неокогнитрон, 
33
, 
39
, 
40
, 
311
Неориентированная графическая модель, 
80
, 
426
Неориентированная модель, 
475
Непараметрическая модель, 
110
Неравенство треугольника, 
50
Несмещенная оценка, 
117
Нестерова метод, 
258
Нижняя граница свидетельств, 
530
, 
554
Норма, 
50
Нормальное распределение, 
69
, 
118
Нормальные уравнения, 
104
, 
107
, 
203
Нормированная инициализация, 
260
Ньютона метод, 
90
, 
267
НЯМ. 
См
. Нейронная языковая модель
О
Обнаружение объектов, 
381
Обнаружение спама, 
22
Обобщение, 
105
Обобщенная функция Лагранжа.
См
. Обобщенный лагранжиан
Обобщенный лагранжиан, 
92
Обработка естественных языков, 
388
Обратная матрица, 
48
Обратное распространение, 
179
Обратное распространение по времени, 
326
Обучение без примеров, 
453
Обучение без учителя, 
101
, 
134
Обучение многообразий, 
146
Обучение на одном примере, 
453
Обучение по плану, 
281
Обучение представлений, 
23
Обучение с подкреплением, 
42
, 
102
, 
404
, 
576
Обучение с учителем, 
101
Обучение с частичным привлечением учителя, 
211
Ограничения типа неравенств, 
93
Ограничения типа равенств, 
93
Ограниченная машина Больцмана, 
302
, 
386
, 
403
, 
492
, 
530
, 
550
, 
563
, 
567
, 
568
, 
570
, 
572
Ограниченная оптимизация, 
92
, 
206
ОЕЯ. 
См
. Обработка естественных языков
Ожидаемое значение, 
66
Окончательная настройка, 
276
Окончательная настройка с учителем, 
445
ОМБ. 
См
. Ограниченная машина Больцмана
Оператор следа, 
56
Операция, 
179
Оправдание, 
482
, 
530
, 
541
Оптимизация, 
82
, 
84
Оптимизация гиперпараметров, 
364
Ориентированная графическая модель, 
80
, 
426
, 
473
, 
579
Ортогональная матрица, 
52
Ортогональное согласованное
преследование, 
40
, 
221
Ортонормированные векторы, 
52
Отбеливание, 
383
Отбор признаков, 
205
Отношения, 
406
Отрицательная фаза, 
395
, 
509
, 
511
Отрицательно определенная матрица, 
89
Отсечение градиента, 
248
, 
349
Отсутствующие данные, 
98
Оценка апостериорного максимума, 
128
, 
425
Оценка плотности, 
100
Оценка функции вероятности, 
100
Ошибка обучения, 
106
П
Пакетная нормировка, 
232
, 
358
Параллельная распределенная обработка, 
34
Параметрическая модель, 
110
Параметрический ReLU, 
170
Параметр смещения, 
105
Первичная зрительная кора, 
308
Перекрестная корреляция, 
284
Перекрестная проверка, 
115
Перекрестная энтропия, 
78
, 
123
Перемешивание (марковской цепи), 
504
Перенос обучения, 
451
Перепараметризация, 
576
Период, 
214
Периодическая свертка, 
300
Перцептрон, 
32
, 
40
Погружение, 
436
Погружение слова, 
390
Поиск на сетке, 
364
Покоординатный спуск, 
275
, 
562
Покрытие, 
357
Политика, 
405
Полностью видимая байесовская сеть, 
591
Полнота, 
357
Положительная фаза, 
395
, 
509
, 
512
, 
549
, 
559
Положительно определенная матрица, 
89
Пополнение набора данных, 
235
, 
385
Порождающая сеть с сопоставлением
моментов, 
589
Порождающая состязательная сеть, 
586
Порождающее распределение, 
106
, 
122
Постоянная Липшица, 
91
Потенциал клики, 
476
Почти всюду, 
75
Правило Байеса, 
74
Правило дифференцирования сложной
функции, 
181
Правило сложения вероятностей, 
65
ПРД. 
См
. Предсказательная разреженная 
декомпозиция

---

Предметный указатель 

649
Предковая выборка, 
487
, 
500
Предобработка, 
381
Предобучение, 
276
, 
444
Предобучение без учителя, 
386
, 
444
Предположения о независимости и одинаковом 
распределении, 
106
, 
116
, 
232
Предсказание связей, 
407
Предсказательная разреженная декомпозиция, 
440
Приближенные байесовские вычисления, 
600
Приближенный вывод, 
490
Привратник, 
378
Признак, 
97
Пример, 
97
Приработка, 
501
Проверка по второй производной, 
89
Произведение матриц, 
46
Произведение экспертов, 
479
Производная, 
84
Производная по направлению, 
86
Проклятие размерности, 
141
Прореживание, 
224
, 
358
, 
362
, 
363
, 
562
, 
577
Простая клетка, 
309
Пространство гипотез, 
107
, 
112
Процесс генерации данных, 
106
Прямое распространение, 
179
Псевдоправдоподобие, 
517
ПСС. 
См
. Порождающая состязательная сеть
Пулинг, 
282
, 
572
Р
Равномерное распределение, 
64
Радиально-базисная функция, 
173