Я. Гудфеллоу, И. Бенджио, А. Курвилль



Download 14,23 Mb.
Pdf ko'rish
bet666/779
Sana14.06.2022
Hajmi14,23 Mb.
#671946
TuriКнига
1   ...   662   663   664   665   666   667   668   669   ...   779
Bog'liq
Гудфеллоу Я , Бенджио И , Курвилль А Глубокое обучение

536 

 
Приближенный вывод
Это так называемый подход 
среднего поля
. В общем случае мы можем наложить 
на 
q
структуру произвольной графической модели, чтобы гибко определить, сколько 
взаимодействий должна улавливать наша аппроксимация. Такой общий подход на-
зывается 
структурным вариационным выводом
(Saul and Jordan, 1996).
Элегантность вариационного подхода состоит в том, что не нужно задавать конк-
ретную параметрическую форму 
q
. Мы описываем, как оно должно факторизовать-
ся, но затем задача оптимизации сама определяет оптимальное распределение веро-
ятности, удовлетворяющее этим ограничениям на факторизацию. Для дискретных 
латентных переменных это просто означает, что мы пользуемся традиционными ме-
тодами оптимизации конечного числа переменных, описывающих распределение 
q

Для непрерывных латентных переменных это означает использование раздела мате-
матики, называемого вариационным исчислением, для оптимизации на пространстве 
функций, в результате чего определяется, какой функцией представлять 
q
. Именно 
вариационное исчисление стоит за терминами «вариационное обучение» и «вариа-
ционный вывод», хотя они применяются и в том случае, когда латентные переменные 
дискретны и вариационное исчисление ни при чем. В случае непрерывных латентных 
переменных вариационное исчисление оказывается мощной техникой, снимающей 
большую часть забот с проектировщика модели, который теперь должен только за-
дать вид факторизации 
q
, а не гадать, как спроектировать конкретное 
q
, способное 
верно аппроксимировать апостериорное распределение.
Поскольку 

(
v

θ

q
) определена как log 
p
(

Download 14,23 Mb.

Do'stlaringiz bilan baham:
1   ...   662   663   664   665   666   667   668   669   ...   779




Ma'lumotlar bazasi mualliflik huquqi bilan himoyalangan ©hozir.org 2024
ma'muriyatiga murojaat qiling

kiriting | ro'yxatdan o'tish
    Bosh sahifa
юртда тантана
Боғда битган
Бугун юртда
Эшитганлар жилманглар
Эшитмадим деманглар
битган бодомлар
Yangiariq tumani
qitish marakazi
Raqamli texnologiyalar
ilishida muhokamadan
tasdiqqa tavsiya
tavsiya etilgan
iqtisodiyot kafedrasi
steiermarkischen landesregierung
asarlaringizni yuboring
o'zingizning asarlaringizni
Iltimos faqat
faqat o'zingizning
steierm rkischen
landesregierung fachabteilung
rkischen landesregierung
hamshira loyihasi
loyihasi mavsum
faolyatining oqibatlari
asosiy adabiyotlar
fakulteti ahborot
ahborot havfsizligi
havfsizligi kafedrasi
fanidan bo’yicha
fakulteti iqtisodiyot
boshqaruv fakulteti
chiqarishda boshqaruv
ishlab chiqarishda
iqtisodiyot fakultet
multiservis tarmoqlari
fanidan asosiy
Uzbek fanidan
mavzulari potok
asosidagi multiservis
'aliyyil a'ziym
billahil 'aliyyil
illaa billahil
quvvata illaa
falah' deganida
Kompyuter savodxonligi
bo’yicha mustaqil
'alal falah'
Hayya 'alal
'alas soloh
Hayya 'alas
mavsum boyicha


yuklab olish