Я. Гудфеллоу, И. Бенджио, А. Курвилль

многомодальное обучение
, которое строит представ-
ление в двух разных модальностях и связь (в общем случае совместное распределе-
ние) между парами (
x
, 
y
), где 
x
– наблюдение в одной модальности, а 
y
– в другой 
(Srivastava and Salakhutdinov, 2012). Путем обучения всех трех наборов параметров 
(из 
x
в его представление, из 
y
в его представление и связь между обоими представ-
лениями) концепции из одного представления привязываются к концепциям из дру-
гого, и наоборот, что позволяет осмысленно производить обобщение на новые пары. 
Эта процедура показана на рис. 15.3.
15.3. Разделение каузальных факторов 
с частичным привлечением учителя
В связи с обучением представлений возникает важный вопрос: из-за чего одно пред-
ставление лучше другого? Одна из гипотез заключается в том, что идеальным яв-
ляется представление, в котором признаки соответствуют объясняющим причинам 
наблюдаемых данных, причем разные признаки или направления в пространстве 
признаков соответствуют разным причинам, так что представление отделяет причи-
ны друг от друга. Следуя этой гипотезе, мы сначала ищем хорошее представление для 
p
(
x
). Оно может также оказаться хорошим представлением для вычисления 
p
(
y
| 
x
), 
если 
y
– одна из наиболее выраженных причин 
x
. Эта идея вдохновляла немало 
исследований по глубокому обучению аж с 1990-х годов (Becker and Hinton, 1992; 
Hinton and Sejnowski, 1999). Другие соображения о том, когда обучение с частичным 
привлечением учителя может превосходить чистое обучение с учителем, см. в разде-
ле 1.2 работы Chapelle et al. (2006).
В других подходах к обучению представлений нас часто интересовало представ-
ление, которое проще моделировать, – например, с разреженными или независимы-
ми друг от друга элементами. Представление, которое четко разделяет каузальные 
факторы, необязательно просто моделируется. Однако у гипотезы, выдвигаемой 
в обоснование обучения с частичным привлечением учителя посредством представ-
ления без учителя, есть вторая часть – для многих задач ИИ справедливо следующее 
утверж дение: если мы можем получить объяснение наблюдаемым фактам, то обычно 

---