Я. Гудфеллоу, И. Бенджио, А. Курвилль

R
фактических целей (например, 
рейтингов). Это соответствует разложению 
R
= 
UDV
′
 
(или нормированного варианта) 
в произведение двух множителей: матриц низкого ранга 
A
= 
UD
и 
B
= 
V
′
. Проблема 
в том, что в сингулярном разложении отсутствующие элементы произвольным обра-
зом трактуются так, будто они соответствуют целевому значению 0. А мы вообще не 
хотели бы платить за предсказания, сделанные на основе отсутствующих значений. 
К счастью, сумму квадратов ошибок на наблюдаемых рейтингах также легко миними-
зировать градиентными методами. Сингулярное разложение и билинейное предска-
зание (12.20) показали очень хорошие результаты в соревновании на приз компании 
Netflix (Bennett and Lanning, 2007), где требовалось предсказать рейтинги фильмов, 
зная только предыдущие рейтинги, выставленные большим числом анонимных поль-
зователей. В этом соревновании, проходившем в период с 2006 по 2009 год, участвова-
ли многие специалисты по машинному обучению. Оно стимулировало новые исследо-
вания по применению передовых методов машинного обучения к рекомендательным 
системам и в конечном итоге привело к улучшению последних. И хотя ни простое 
билинейное предсказание, ни сингулярное разложение не добились победы сами по 
себе, они были компонентами ансамблевых моделей, представленных большинством 
участников, в т. ч. победителями (T
ö
scher et al., 2009; Koren, 2009).
Одно из первых применений нейронных сетей к коллаборативной фильтрации 
было основано на неориентированной вероятностной модели в виде ограниченной 
машины Больцмана (Salakhutdinov et al., 2007). ОМБ входила важной составной 
частью в ансамбль моделей, выигравший соревнование на приз Netflix (T
ö
scher et 
al., 2009; Koren, 2009). В сообществе нейронных сетей исследовались и более продви-
нутые варианты идеи факторизации матрицы рейтингов (Salakhutdinov and Mnih, 
2008).
Однако у систем коллаборативной фильтрации есть существенное ограничение: 
когда появляется новый пользователь или продукт, у него нет никакой истории рей-
тингования, а потому невозможно оценить его сходство с другими пользователями 
или продуктами или степень ассоциации между новым пользователем и существую-
щими продуктами. Это проблема холодного старта. Общий способ ее решения – доба-
вить информацию о пользователях и продуктах. Это может быть, например, профиль 

---