Я. Гудфеллоу, И. Бенджио, А. Курвилль

x
система машинного обучения возвращает оцен-
ку истинной плотности 
p
(
x
) порождающего данные распределения. Результа-
том является единственное значение, но требуется полное понимание входных 
данных. Если хотя бы один элемент вектора необычен, система должна назна-
чить всему вектору низкую вероятность;
 

шумоподавление.
Видя поврежденный или искаженный в результате наблю-
дения входной сигнал 
x~
, система машинного обучения возвращает оценку ис-
ходного или правильного сигнала 
x
. Например, систему машинного обучения 
можно попросить удалить пыль или царапины со старой фотографии. Резуль-
татом будет много выходов (каждый элемент очищенного от шумов примера 
x
), и требуется понимание всего входа (потому что даже при наличии всего 
одного поврежденного участка окончательная оценка будет «поврежден»);
 

восполнение отсутствующих значений.
Видя результаты наблюдений некото-
рых элементов 
x
, модель возвращает оценку распределения вероятности неко-
торых или всех ненаблюдавшихся элементов 
x
. Выходов получается несколь-
ко. Поскольку может потребоваться восстановить произвольные элементы 
x
, 
модель должна понимать структуру всего входа;
1
Естественным
называется изображение, снятое камерой в обычных окружающих условиях, 
в отличие от синтезированного изображения, снимка веб-страницы и т. п.

---

Проблема бесструктурного моделирования 

471
 

выборка.
Модель генерирует новую выборку из распределения 
p
(
x
). К таким 
приложениям относится синтез речи, т. е. порождение звуковых сигналов, похо-
жих на естественную человеческую речь. Необходимы несколько выходных зна-
чений и хорошая модель всего входа. Если в выборке присутствует хотя бы один 
элемент из неправильного распределения, то результат всей выборки не годится.
Пример задачи выборки с использованием небольших естественных изображений 
приведен на рис. 16.1.