6-ma’ruza. Ko’p o’zgaruvchili chiziqli regressiya Reja



Download 1,73 Mb.
bet7/12
Sana24.05.2023
Hajmi1,73 Mb.
#943210
1   2   3   4   5   6   7   8   9   ...   12
Bog'liq
2.2-mavzu(183-216)

Gradiyent tushishi. Stoxastik gradiyent tushishiga o’tishdan oldin, asosiy gradiyent tushishini ko’rib chiqamiz.
Gradiyent tushishdan maqsad nima? Oddiy qilib aytganda, gradiyent sirtning qiyaligini bildiradi. Shunday qilib, gradiyent tushish so’zma-so’z ma’noda ushbu sirtning eng past nuqtasiga tushish uchun pastga tushishni anglatadi. Ikki o’lchovli grafikada parabolani misol qilib olamiz,

Ikki o’lchovli (x, i) parabolik funksiya
Parabolaning eng past nuqtasi x = 1 ga teng. Gradiyent tushish algoritmining maqsadi "x" uchun shunday qiymatni topishki, "i" minimal bo’ladi. "I" bu yerda obyektiv funksiya sifatida talqin etiladi
Standart gradiyent tushishida asosiy yangilash qoidasi hisoblanadi

bu yerda $ w_ {j, i} $ og’irliklarni ifodalaydi, ular ham biz neyron tarmoqlarni optimallashtirishni xohlaganimizda o’zgartirishga harakat qilamiz. $ L $ - bu yuqotish funksiyasi va biz uni minimallashtirishga harakat qilmoqdamiz. $ \ delta w_ {j, i} $ yuqotishlarni kamaytirish uchun ushbu vaznni qanday o’zgartirishni hal qiladi.
Shubhasiz, har bir qadamda butun mashg’ulotlar to’plamidan foydalaniladi va shuning uchun ham uni gradiyent nasli deyiladi. Ushbu hisoblash juda katta ma’lumotlar to’plami uchun qimmatga tushadi va har bir takrorlashda oraliq og’irliklarni xotirada saqlashi kerak bo’ladi. Gradiyent tushishning grafik talqini quyidagicha ko’rinadi:

Vikipediyadan bir qator darajadagi siljish bo’yicha gradiyent tushish tasviri.
Gradiyent tushish mahalliy minimalarni topish uchun qanday ishlashini yaxshiroq ko’rsatish uchun $ f (x) = x³ - 2x² + 2 $ funksiyasi uchun mahalliy minimalarni topishga misol keltiramiz. Kod quyida ko’rsatilgan,


Yuqoridagi jadvaldan biz mahalliy pastliklar 1,4 atrofida bo’lishini ko’rishimiz mumkin, ammo biz bu haqda bilmaymiz va $ x_0 = 2 $ da boshlang’ich nuqtani tanlaymiz.

Mahalliy minimumga erishish uchun o’tadigan barcha nuqtalarni to’plab, gradiyent tushishining trayektoriyasini tuzishimiz mumkin,





Download 1,73 Mb.

Do'stlaringiz bilan baham:
1   2   3   4   5   6   7   8   9   ...   12




Ma'lumotlar bazasi mualliflik huquqi bilan himoyalangan ©hozir.org 2024
ma'muriyatiga murojaat qiling

kiriting | ro'yxatdan o'tish
    Bosh sahifa
юртда тантана
Боғда битган
Бугун юртда
Эшитганлар жилманглар
Эшитмадим деманглар
битган бодомлар
Yangiariq tumani
qitish marakazi
Raqamli texnologiyalar
ilishida muhokamadan
tasdiqqa tavsiya
tavsiya etilgan
iqtisodiyot kafedrasi
steiermarkischen landesregierung
asarlaringizni yuboring
o'zingizning asarlaringizni
Iltimos faqat
faqat o'zingizning
steierm rkischen
landesregierung fachabteilung
rkischen landesregierung
hamshira loyihasi
loyihasi mavsum
faolyatining oqibatlari
asosiy adabiyotlar
fakulteti ahborot
ahborot havfsizligi
havfsizligi kafedrasi
fanidan bo’yicha
fakulteti iqtisodiyot
boshqaruv fakulteti
chiqarishda boshqaruv
ishlab chiqarishda
iqtisodiyot fakultet
multiservis tarmoqlari
fanidan asosiy
Uzbek fanidan
mavzulari potok
asosidagi multiservis
'aliyyil a'ziym
billahil 'aliyyil
illaa billahil
quvvata illaa
falah' deganida
Kompyuter savodxonligi
bo’yicha mustaqil
'alal falah'
Hayya 'alal
'alas soloh
Hayya 'alas
mavsum boyicha


yuklab olish