1-Maruza.Sun’iy neyron to’rlari va modeli
Reja:
1. Nerv faoliyatining biologik jihatlari va Nerv kletkalarining strukturasi.
2. Dentrit, som, akson, sinaps,markaziy nerv tizimi.
3. Sun’iy neyronning matematik modeli.
4. Faollashtirish funksiyalari.
5.Bir qatlamli sun’iy neyron to’rlari va ko’p qatlamli sun’iy neyron to’rlari.
Tayanch so’z va iboralar:
Nerv faoliyatining biologik jihatlari,Nerv
kletkalarining strukturasi, dentrit, som, akson, sinaps,markaziy nerv tizimi, Sun’iy
neyron, matematik model, Faollashtirish funksiyalari,Bir qatlamli sun’iy neyron to’rlari,a
ko’p qatlamli sun’iy neyron to’rlari.
Sun'iy neyron tarmoqlari (ANNlar), odatda oddiy deb nomlanadi asab
tarmoqlari (NNlar), hisoblash tizimlari tomonidan noaniq ravishda ilhomlangan biologik
neyron tarmoqlari hayvonlarni tashkil qiladi miyalar.[1]
ANN bog'langan birliklar yoki tugunlar to'plamiga asoslangan sun'iy neyronlar, bu
erkin
tarzda
modellashtirilgan neyronlar biologik
miyada.
Kabi
har
bir
ulanish sinapslar biologik miyada signalni boshqa neyronlarga etkazishi mumkin.
Signalni qabul qiladigan sun'iy neyron keyinchalik uni qayta ishlaydi va unga bog'langan
neyronlarga signal berishi mumkin. Ulanishdagi "signal" a haqiqiy raqam, va har bir
neyronning chiqishi uning kirishlari yig'indisining ba'zi bir chiziqli bo'lmagan
funktsiyalari bilan hisoblanadi. Ulanishlar deyiladi qirralar. Neyronlar va qirralar odatda a
ga ega vazn bu o'rganishni davom ettirishga moslashtiradigan narsa. Og'irligi ulanish
paytida signal kuchini oshiradi yoki kamaytiradi. Neyronlarning chegarasi bo'lishi
mumkin, shunda signal faqat yig'ilgan signal ushbu chegarani kesib o'tgan taqdirdagina
yuboriladi. Odatda neyronlar qatlamlarga birlashtiriladi. Turli qatlamlar o'zlarining
kirishlarida turli xil o'zgarishlarni amalga oshirishi mumkin. Signallar birinchi qatlamdan
(kirish qatlami), oxirgi qatlamga (chiqish qatlami), ehtimol qatlamlarni bir necha marta
bosib o'tgandan keyin o'tad
Neyron tarmoqlari misollarni qayta ishlash orqali o'rganadi (yoki o'qitiladi),
ularning har biri ma'lum bo'lgan "kirish" va "natija" ni o'z ichiga oladi, bu ikkalasi
o'rtasida aniqlik tarkibidagi ma'lumotlar assotsiatsiyasini shakllantiradi. Nerv tarmog'ini
keltirilgan misoldan o'rgatish odatda tarmoqning qayta ishlangan chiqishi (ko'pincha
bashorat qilish) va maqsadli chiqish o'rtasidagi farqni aniqlash orqali amalga oshiriladi.
Bu xato. Keyin tarmoq o'z qoidalariga binoan va ushbu xatolik qiymatidan foydalangan
holda o'z vaznli assotsiatsiyalarini sozlaydi. Ketma-ket tuzatishlar neyron tarmoqni
maqsadli chiqishga tobora ko'proq o'xshash ishlab chiqarishni keltirib chiqaradi. Ushbu
tuzatishlarning etarli sonidan so'ng ma'lum mezonlarga asoslanib, mashg'ulot tugatilishi
mumkin. Bu sifatida tanilgan nazorat ostida o'rganish.
Bunday tizimlar, misollarni ko'rib chiqish orqali vazifalarni bajarishni
"o'rganadilar", odatda vazifalarga xos qoidalar bilan dasturlashtirilmasdan. Masalan,
ichida tasvirni aniqlash, ular qo'lda qilingan misollarni tahlil qilish orqali mushuklarni o'z
ichiga olgan rasmlarni aniqlashni o'rganishlari mumkin belgilangan "mushuk" yoki
"mushuk yo'q" sifatida va boshqa rasmlarda mushuklarni aniqlash uchun natijalardan
foydalanish. Ular buni mushuklar haqida oldindan bilmasdan qilishadi, masalan, ularning
mo'ynasi, dumlari, mo'ylovi va mushukka o'xshash yuzlari. Buning o'rniga, ular
avtomatik ravishda ishlov beradigan misollardan aniqlovchi xususiyatlarni yaratadilar.
Uorren Makkullox va Valter Pitts (1943) neyron tarmoqlar uchun hisoblash
modelini yaratish orqali mavzuni ochdi. 1940-yillarning oxirida, D. O. Hebb
mexanizmiga
asoslangan
o'quv
gipotezasini
yaratdi asab
plastisiyasi deb
tanilgan Xebbiylarni o'rganish. Farley va Uesli A. Klark (1954) birinchi bo'lib Hebbian
tarmog'ini simulyatsiya qilish uchun "kalkulyator" deb nomlangan hisoblash
mashinalaridan foydalangan. Rozenblatt
[6]
(1958) yaratgan pertseptron. Ko'p qatlamli
birinchi funktsional tarmoqlar tomonidan nashr etilgan Ivaxnenko va 1965 yilda Lapa,
sifatida Ma'lumotlar bilan ishlashning guruh usuli. Uzluksiz orqaga surish asoslari
kontekstida
olingan boshqaruv
nazariyasi tomonidan Kelley
1960
yilda
va
tomonidan Bryson 1961 yilda,
[15]
ning tamoyillaridan foydalangan holda dinamik
dasturlash.
1970 yilda, Seppo Linnainmaa uchun umumiy uslubni nashr etdi avtomatik
farqlash (AD) joylashtirilgan diskret ulangan tarmoqlar farqlanadigan funktsiyalari. 1973
yilda Dreyfus moslashish uchun backpropagation-dan foydalangan parametrlar xato
gradyanlariga mutanosib ravishda tekshirgichlar. Werbosning (1975) orqaga targ'ib
qilish algoritm ko'p qatlamli tarmoqlarni amaliy o'qitishga imkon berdi. 1982 yilda u
Linnainmaaning AD usulini neyron tarmoqlarga keng qo'llaniladigan usulda qo'llagan.
Keyinchalik tadqiqotlar to'xtab qoldi Minskiy va Papert (1969), asosiy pertseptronlar
eksklyuziv yoki elektronni qayta ishlashga qodir emasligini va kompyuterlarning foydali
neyron tarmoqlarini qayta ishlash uchun etarli kuchga ega emasligini aniqladi.
Ning rivojlanishi metall-oksid-yarim o'tkazgich (MOS) juda keng ko'lamli
integratsiya (VLSI),
shaklida qo'shimcha
MOS (CMOS)
texnologiyasi,
MOS-ni
oshirishga imkon berdi tranzistorlar soni yilda raqamli elektronika.Bu 1980-yillarda
amaliy sun'iy neyron tarmoqlarini rivojlantirish uchun ko'proq ishlov berish quvvatini
ta'minladi.
[21]
1992 yilda, maksimal pul yig'ish eng kam o'zgaruvchan invariantlik va yordam berish
uchun deformatsiyaga bardoshlik bilan yordam berish uchun kiritilgan Ob'ektni 3D tanib
olish. Shmidhuber tarmoqlarning ko'p bosqichli iyerarxiyasini qabul qildi (1992) birma-
bir darajani oldindan tayyorlab qo'ydi nazoratsiz o'rganish va yaxshi sozlangan orqaga
targ'ib qilish.
Jefri Xinton va boshq. (2006) ikkilik yoki real qiymatlarning ketma-ket qatlamlari
yordamida
yuqori
darajadagi
vakillikni
o'rganishni
taklif
qildi yashirin
o'zgaruvchilar bilan cheklangan Boltzmann mashinasi har bir qatlamni modellashtirish
uchun. 2012 yilda, Ng va Dekan mushuklar kabi yuqori darajadagi tushunchalarni faqat
yorliqsiz tasvirlarni tomosha qilish orqali tanib olishni o'rgangan tarmoq
yaratdi.
[27]
Nazorat qilinmagan oldindan tayyorgarlik va hisoblash quvvatining
ortishi Grafik protsessorlar va tarqatilgan hisoblash katta tarmoqlardan foydalanishga
ruxsat berdi, ayniqsa tasvir va vizual tanib olish muammolarida "chuqur o'rganish".
Ciresan va uning hamkasblari (2010) Yo'qolib borayotgan gradient muammosiga
qaramay, GPUlar ko'p qatlamli neyron tarmoqlari uchun backpropagatsiyani amalga
oshirishi mumkinligini ko'rsatdi.
[30]
2009 yildan 2012 yilgacha ANNlar ANN
musobaqalarida sovrinlarni qo'lga kirita boshladilar, dastlab turli darajadagi vazifalar
bo'yicha
inson
darajasidagi
ko'rsatkichlarga
yaqinlashdilar. naqshni
aniqlash va mashinada o'rganish.
[31][32]
Masalan, ikki yo'nalishli va ko'p o'lchovli uzoq
muddatli xotira (LSTM)
[33][34][35][36]
ning Qabrlar va boshq. 2009 yilda qo'l yozuvi bilan
bog'liq uchta tanlovda g'olib bo'lib, uchta til haqida oldindan bilmagan holda.
[35][34]
Ciresan va uning hamkasblari inson tomonidan raqobatbardosh g'ayriinsoniy
ko'rsatkichlarga erishish uchun birinchi namuna taniydiganlarni yaratdilar yo'l belgilarini
aniqlash kabi mezonlarga (IJCNN 2012).
ANNlar an'anaviy algoritmlar kam muvaffaqiyatga erishgan vazifalarni bajarish uchun
inson miyasining arxitekturasidan foydalanishga urinish sifatida boshlandi. Tez orada ular
empirik natijalarni yaxshilashga yo'naldilar, asosan biologik kashshoflariga sodiq qolish
urinishlaridan voz kechdilar. Neyronlarning chiqishi boshqalarning kirish qismiga
aylanishiga imkon berish uchun neyronlar bir-biriga turli xil naqshlarda bog'langan.
Tarmoq a yo'naltirilgan, vaznli grafik.
[38]
Sun'iy asab tarmog'i simulyatsiya qilingan neyronlarning to'plamidan iborat. Har
bir neyron a tugun orqali boshqa tugunlarga ulangan havolalar biologik akson-sinaps-
dendrit birikmalariga mos keladigan. Har bir bog'lanishning og'irligi bor, bu bitta
tugunning boshqasiga ta'sir kuchini aniqlaydi.
[39]
ANNlarning tarkibiy qismlari
Neyronlar
ANNlar
tarkib
topgan sun'iy
neyronlar kontseptual
ravishda
biologik
olingan neyronlar. Har bir sun'iy neyronning kirishlari mavjud va ular bir nechta boshqa
neyronlarga yuborilishi mumkin bo'lgan bitta ishlab chiqarishni ishlab chiqaradi. Kirish
rasmlar yoki hujjatlar kabi tashqi ma'lumotlar namunasining xususiyat qiymatlari yoki
boshqa neyronlarning chiqishi bo'lishi mumkin. Final natijalari
Do'stlaringiz bilan baham: |