4 Ma’ruza Sun'iy neyron tarmoqlar (snt) ning tasnifi va ishlash tamoyillari

Odatiy konvolyutsion neyron tarmoq arxitekturasi
To'liq bog'langan neyron tarmoq bo'lgan oddiy perseptronda har bir neyron oldingi qatlamning barcha neyronlari bilan bog'langan va har bir ulanish o'zining shaxsiy vazn koeffitsientiga ega. Konvolyutsion neyron tarmog'ida konvolyutsiya operatsiyasi faqat kichik o'lchamdagi cheklangan og'irlikdagi matritsadan foydalanadi, u qayta ishlanayotgan butun qatlam bo'ylab (boshida, to'g'ridan-to'g'ri kirish tasviri ustiga) "ko'chiriladi" va har bir siljishdan keyin faollashuvni hosil qiladi. shunga o'xshash pozitsiyaga ega keyingi qatlamning neyroni uchun signal. Ya'ni, chiqish qatlamining turli neyronlari uchun bir xil og'irlik matritsasi ishlatiladi, bu konvolyutsiya yadrosi deb ham ataladi. Bu ba'zi bir xususiyatning grafik kodlanishi sifatida talqin etiladi, masalan, ma'lum bir burchak ostida qiya chiziq mavjudligi. Keyin bunday og'irlik matritsasi tomonidan konvolyutsiya operatsiyasi natijasida hosil bo'lgan keyingi qatlam qayta ishlangan qatlamda ushbu xususiyatning mavjudligini va uning koordinatalarini ko'rsatadi va xususiyat xaritasi deb ataladi. Tabiiyki, konvolyutsion neyron tarmog'ida og'irliklar to'plami bitta emas, balki tasvir elementlarini (masalan, turli burchaklardagi chiziqlar va yoylarni) kodlaydigan butun gamutdir. Shu bilan birga, bunday konvolyutsiya yadrolari tadqiqotchi tomonidan oldindan belgilanmaydi, balki xatolarni qaytarishning klassik usulidan foydalangan holda tarmoqni o'qitish orqali mustaqil ravishda shakllantiriladi. Har bir vazn to'plamidan o'tish o'zining xususiyat xaritasi namunasini yaratadi va neyron tarmoqni ko'p kanalli qiladi (bir qatlamda ko'plab mustaqil xususiyat xaritalari). Shuni ham ta'kidlash kerakki, vazn matritsasi bo'lgan qatlamni takrorlashda u odatda to'liq qadam (bu matritsaning o'lchami) bilan emas, balki kichik masofaga ko'chiriladi. Shunday qilib, masalan, vazn matritsasining o'lchami 5 × 5 bo'lsa, kerakli xususiyatdan "qadam bermaslik" uchun u besh o'rniga bir yoki ikkita neyron (piksel) bilan siljiydi.
Quyi namuna olish operatsiyasi (ing. subsampling, eng. hovuzlash, shuningdek, “pastki namuna olish operatsiyasi” yoki birlashtirish operatsiyasi deb tarjima qilinadi) yaratilgan xususiyat xaritalarining o'lchamlarini qisqartirishni amalga oshiradi. Ushbu tarmoq arxitekturasida kerakli xususiyatning mavjudligi haqidagi ma'lumot uning koordinatalarini aniq bilishdan muhimroq deb hisoblanadi, shuning uchun xususiyat xaritasining bir nechta qo'shni neyronlaridan maksimali tanlanadi va olinadi. kichikroq o'lchamdagi siqilgan xususiyat xaritasining bir neyroni. Ushbu operatsiya tufayli, keyingi hisob-kitoblarni tezlashtirishdan tashqari, tarmoq kirish tasvirining masshtabiga nisbatan o'zgarmas bo'ladi.
Konvolyutsion neyron tarmog'ining tipik tuzilishini batafsilroq ko'rib chiqing. Tarmoq ko'p sonli qatlamlardan iborat. Dastlabki qatlamdan so'ng (kirish tasviri) signal konvolyutsiya qatlamlari qatoridan o'tadi, ularda konvolyutsiyaning o'zi va quyi namuna olish (birlashma) muqobil bo'ladi. Muqobil qatlamlar sizga xususiyatli xaritalardan "xususiyatlar xaritalarini" yaratishga imkon beradi, har bir keyingi qatlamda xarita hajmi kamayadi, lekin kanallar soni ortadi. Amalda, bu murakkab xususiyatlar ierarxiyasini tan olish qobiliyatini anglatadi. Odatda, bir nechta qatlamlardan o'tgandan so'ng, xususiyat xaritasi vektor yoki hatto skalerga aylanadi, ammo bunday xususiyatli xaritalar yuzlab mavjud. Tarmoqning konvolyutsion qatlamlarining chiqishida to'liq bog'langan neyron tarmog'ining (perseptron) bir nechta qatlamlari qo'shimcha ravishda o'rnatiladi, ularning kirishiga yakuniy xususiyat xaritalari beriladi.