|
Faollashtirish funktsiyasi (faollashtirish funktsiyasi)(\(\phi(net) \) ) argument sifatida vaznli yigʻindini oladigan funksiyadir. Ushbu funktsiyaning qiymati neyronning chiqishi (\(out \) ).
Yagona sakrash funktsiyasi
Faollashtirish funktsiyasining eng oddiy turi. Neyronning chiqishi faqat 0 yoki 1 bo'lishi mumkin. Agar vaznli yig'indi ma'lum bir chegaradan katta bo'lsa \(b \) , neyron chiqishi 1 bo'ladi. Agar u pastroq bo'lsa, u holda 0.
Undan qanday foydalanish mumkin? Aytaylik, biz dengizga faqat og'irlikdagi yig'indi 5 dan katta yoki unga teng bo'lganda boramiz. Demak, bizning chegaramiz 5:
Bizning misolimizda vaznli yig'indi 6 ni tashkil etdi, bu bizning neyronimiz chiqishi 1 ga teng. Shunday qilib, biz dengizga boramiz.
Biroq, agar dengizdagi ob-havo yomon bo'lsa va sayohat juda qimmat bo'lsa-da, ammo snack bar va oddiy ish muhiti bo'lsa (kirishlar: 0011), unda vaznli yig'indi 2 bo'ladi, ya'ni neyronning chiqishi. 0 bo'ling. Demak, biz hech qaerga bormaymiz.
Umuman olganda, neyron vaznli yig'indiga qaraydi va agar u o'z chegarasidan kattaroq bo'lsa, neyron 1 ga teng natijani ishlab chiqaradi.
Grafik jihatdan bu faollashtirish funksiyasi quyidagicha ifodalanishi mumkin.
Og'irlangan yig'indi qiymatlari gorizontal o'qda joylashgan. Vertikal o'qda chiqish signalining qiymatlari joylashgan. Ko'rinib turibdiki, chiqish signalining faqat ikkita qiymati mumkin: 0 yoki 1. Bundan tashqari, 0 har doim minus cheksizlikdan va chegara deb ataladigan vaznli yig'indining ma'lum bir qiymatigacha chiqariladi. Agar vaznli yig'indi chegaraga teng yoki undan katta bo'lsa, funktsiya 1 ni qaytaradi. Hammasi juda oddiy.
Endi bu faollashtirish funksiyasini matematik tarzda yozamiz. Siz kompozit funksiya tushunchasiga deyarli duch kelgansiz. Bu biz bir funktsiya ostida bir nechta qoidalarni birlashtirganda, unga ko'ra uning qiymati hisoblanadi. Kompozit funksiya shaklida birlik hop funktsiyasi quyidagicha ko'rinadi:
\[out(net) = \begin(holatlar) 0, net< b \\ 1, net \geq b \end{cases} \]
Ushbu kirishda hech qanday murakkab narsa yo'q. Neyronning chiqishi (\(tashqarida \) ) og'irlikdagi yig'indiga (\(aniq \) ) quyidagicha bog'liq: agar \(aniq \) (vaznli yig'indi) qaysidir chegaradan ( \(b \ ) ), keyin \(tashqarida \) (neyronning chiqishi) 0 boʻladi. Va agar \(net \) chegaradan katta yoki teng boʻlsa \(b \) , keyin \(tashqarida \) 1 ga teng.
Sigmasimon funktsiya
Aslida, sigmasimon funktsiyalarning butun oilasi mavjud bo'lib, ularning ba'zilari sun'iy neyronlarda faollashtirish funktsiyasi sifatida ishlatiladi.
Bu funktsiyalarning barchasi neyron tarmoqlarda qo'llaniladigan juda foydali xususiyatlarga ega. Ushbu xususiyatlar ushbu funktsiyalarning grafiklarini ko'rganingizdan so'ng aniq bo'ladi.
Shunday qilib ... neyron tarmoqlarda eng ko'p ishlatiladigan sigmasimon logistika funktsiyasi.
Ushbu funktsiyaning grafigi juda oddiy ko'rinadi. Agar diqqat bilan qarasangiz, inglizcha \(S\) harfining oʻxshashligini koʻrishingiz mumkin, bu funksiyalar oilasining nomi qaerdan kelib chiqqan.
Analitik tarzda shunday yozilgan:
\[ out(net)=\frac(1)(1+\exp(-a \cdot net)) \]
\(a \) parametri nima? Bu funktsiyaning keskinlik darajasini tavsiflovchi ba'zi raqam. Quyida turli parametrlarga ega logistika funktsiyalari \(a \) .
Bizning sun'iy neyronimizni eslaylik, u dengizga borish yoki yo'qligini aniqlaydi. Birlik sakrash funktsiyasi bo'lsa, hamma narsa aniq edi. Biz dengizga boramiz (1) yoki yo'q (0).
Bu erda voqea haqiqatga yaqinroq. Biz to'liq ishonchimiz komil emas (ayniqsa, agar siz paranoyak bo'lsangiz) - borishga arziydimi? Keyin logistik funktsiyani faollashtirish funksiyasi sifatida ishlatish sizga 0 va 1 oralig'idagi raqamni olishga olib keladi. Va vaznli yig'indi qanchalik katta bo'lsa, chiqish 1 ga yaqinroq bo'ladi (lekin hech qachon unga teng bo'lmaydi). Aksincha, vaznli yig'indi qanchalik kichik bo'lsa, neyronning chiqishi 0 ga yaqinroq bo'ladi.
Misol uchun, bizning neyronimiz chiqishi 0,8 ni tashkil qiladi. Bu shuni anglatadiki, u hali ham dengizga borishga arziydi, deb hisoblaydi. Agar uning chiqishi 0,2 bo'lsa, u deyarli dengizga borishga qarshi bo'lar edi.
Logistik funktsiyaning ajoyib xususiyatlari qanday?
bu "siqish" funktsiyasidir, ya'ni argumentdan (vaznlangan yig'indidan) qat'i nazar, chiqish signali har doim 0 dan 1 gacha bo'ladi.
u birlik sakrash funktsiyasidan ko'ra moslashuvchanroq - uning natijasi nafaqat 0 va 1, balki ular orasidagi istalgan raqam bo'lishi mumkin
hamma nuqtalarda uning hosilasi bor va bu hosila bir xil funktsiya orqali ifodalanishi mumkin
Aynan shu xususiyatlar tufayli logistik funktsiya ko'pincha sun'iy neyronlarda faollashtirish funktsiyasi sifatida ishlatiladi.
Giperbolik tangens
Biroq, yana bir sigmasimon - giperbolik tangens mavjud. U biologlar tomonidan asab hujayralarining yanada real modelini yaratish uchun faollashtirish funktsiyasi sifatida ishlatiladi.
Bunday funktsiya chiqishda turli belgilarning qiymatlarini olish imkonini beradi (masalan, -1 dan 1 gacha), bu bir qator tarmoqlar uchun foydali bo'lishi mumkin.
Funktsiya quyidagicha yoziladi:
\[ out(net) = \tanh\left(\frac(net)(a)\o'ng) \]
Yuqoridagi formulada \(a \) parametri ushbu funktsiya grafigi qanchalik tik ekanligini ham aniqlaydi.
Va bu funktsiyaning grafigi.
Ko'rib turganingizdek, u logistik funktsiyaning grafigiga o'xshaydi. Giperbolik tangens logistik funktsiyaga ega bo'lgan barcha foydali xususiyatlarga ega.
Biz nimani o'rgandik?
Endi siz sun'iy neyronning ichki tuzilishi haqida to'liq tushunchaga egasiz. Men yana bir bor uning faoliyati haqida qisqacha ma'lumot beraman.
Neyronda kirishlar mavjud. Ularga raqamlar ko'rinishidagi signallar beriladi. Har bir kirish o'z vazniga ega (shuningdek, raqam). Kirish signallari mos keladigan og'irliklarga ko'paytiriladi. Biz "vaznli" kirish signallari to'plamini olamiz.
Keyin tortilgan summa konvertatsiya qilinadi faollashtirish funktsiyasi va biz olamiz neyron chiqishi.
Keling, neyron faoliyatining eng qisqa tavsifini - uning matematik modelini tuzamiz:
Do'stlaringiz bilan baham: |
