Я. Гудфеллоу, И. Бенджио, А. Курвилль

spike
-блоки 
h
и вещественные 
slab
-блоки 
s
. Среднее значение видимых блоков при условии скры-
тых блоков равно (
h
⊙
s
)
W
⏉
. Иначе говоря, каждый столбец 
W
:, 
i
определяет компо-
ненту, которая может встречаться во входных данных, когда 
h
i
= 1. Соответствующая 
spike-переменная h
i
определяет, присутствует ли эта компонента вообще. А соответ-
ствующая slab-переменная 
s
i
определяет интенсивность этой компоненты, если она 
присутствует. Когда spike-переменная активна, соответствующая slab-переменная 
добавляет дисперсию к входным данным вдоль оси, определенной столбцом 
W
:, 
i
. Это 
позволяет моделировать ковариацию между входами. По счастью, методы CD и PCD 
с выборкой по Гиббсу по-прежнему применимы. Обращать матрицы не нужно.
Формально модель ssRBM определяется функцией энергии:
x
(20.50)
(20.51)
где 
b
i
– смещение spike-блока 
h
i
, 
Λ
– диагональная матрица точности для наблюдений 
x
, 
α
i
> 0 – скалярный параметр точности вещественной slab-переменной 
s
i
, а 
Φ
i
– не-
отрицательная диагональная матрица, определяющая 
h
-модулированный квадратич-
ный штраф на 
x
. Параметр 
μ
i
задает среднее slab-переменной 
s
i
.
В случае, когда совместное распределение определено функцией энергии, вывести 
условные распределения в модели ssRBM сравнительно просто. Например, исключая 

---

Машины Больцмана для вещественных данных 
