Neyron tarmoqlar asoslari

3. Eng oddiy perseptronni o'rgatish algoritmlari
Raqamlarni juft va toq sonlarga ajratish masalasi misolidan foydalanib, evristik o'rgatish algoritmini ko'rib chiqamiz. 12 ta fotoelementdan iborat matritsani tasavvur qiling, uning ustiga raqam tasviri tushirilgan kartochka qo'yilgan (3.7-rasm). Agar raqamning istalgan bo'lagi fotoelementga tushsa, bu fotoelement binar ko'rinishidagi signal hosil qiladi, aks holda u nol hosil qiladi. MakKallok-Pitts modeliga ko'ra, qabul qilingan signallar og'irlik koeffitsientlari bilan ko'paytiriladi (ular dastlab tasodifiy sonlar generatori tomonidan o'rnatiladi) va bir-biriga va tasodifiy berilgan siljish omili w₀ bilan qo'shiladi. O'rgatish maqsadi, agar kartada juft raqam ko'rsatilgan bo'lsa, natija bitta bo'lishi, agar raqam toq bo'lsa, nolga teng bo'lishi kerak.

3.7- Rasm. Perseptron sonlarni juft va toq bo'lib tasniflash

Ushbu maqsadga vazn (og'irlik)lar va chegara qiymatini sozlash orqali erishiladi, bu esa ayni neyronni o'rgatishdir. Agar, masalan, perseptronning kirish qismida 4-raqamli karta taqdim etilgan bo'lsa va tasodifiy koeffitsientlarni almashtirgandan so'ng olingan chiqish signali birga teng bo'lsa, unda og'irlikni sozlashning hojati yo'q, chunki neyron reaksiyasi to'g'ri. Biroq, ko'pincha sodir bo'lganidek, agar y = 0 bo'lsa, u holda birlik kirishlarining vaznini oshirish kerak. Xuddi shu tarzda toq raqamlar bilan: agar y = 1 bo'lsa, unda vaznlarni kamaytirish kerak. Oxirgi ikkita jumla Xebbning birinchi va ikkinchi qoidasi deb ataladi va umumiy ma'noda quyidagicha ifodalanadi:

1 Agar neyron signali noto'g'ri bo'lsa va nolga teng bo'lsa, unda birlar qo'llanilgan kirishlarning vazni (og'irligi)ni oshirish kerak.
2 Agar neyron signali noto'g'ri bo'lsa va 1 ga teng bo'lsa, unda birlar qo'llanilgan kirishlarning og'irligini kamaytirish kerak.
Xebb qoidalari tabiiy mukofot-jazo o'rgatish jarayoniga o'xshaydi. Shuning uchun tabiiy ma'noda ham, sun'iy ma'noda ham o'quv jarayoni iterativ - cheklangan miqdordagi takrorlashda (urinishlar, davrlar) ko'zlangan maqsadga olib kelishi mumkin. Juft raqamlarni tanib olish muammosi uchun vazn koeffitsientlarini sozlashning iterativ algoritmi quyidagicha ifodalanadi:

1. 
   Keyingi tasvirni bering va perseptronning y chiqishini hisoblang.
   
2. 
   Chiqish to'g'ri bo'lsa, 1-bosqichga o'ting.
   
3. 
   Agar natija noto'g'ri bo'lsa, Xebb qoidalarini qo'llang. Eng oddiy amalga oshirishda, bu yerda vaznni sozlash birinchi Xebb qoidasi uchun wi= wi+1 va ikkinchi Xebb qoidasi uchun wi= wi-1 bo'lishi mumkin.
   
4. 
   1-bosqichga o'ting yoki o'quv jarayonini yakunlang.
   

Xebb qoidalari umumiyroq shaklda ifodalanishi mumkin. Agar chiqish signalining kerakli qiymatini y' bilan belgilasak, u holda har bir iteratsiyada biz kerakli natija va y ning haqiqiy qiymati o'rtasidagi farqni tasniflash xatosi ko'rinishida hisoblashimiz mumkin:

 '  y'  y (4)
U holda  = 0 holati 2-bosqichga,  > 0 holati esa Xebbning birinchi qoidasining sharti bilan 3-bosqichga,  < 0 holati Xebbning ikkinchi qoidasining sharti bilan 3-bosqichga mos keladi. Xebb g'oyasini saqlab qolgan holda, bu holda vazn (og'irlik)larni sozlash quyidagi formula bo'yicha amalga oshiriladi:
w_i (t+1)= w_i(t)   w_i (5)
bu yerda w_i (t+1) – vazn koeffitsiyenti w_i ning yangi qiymati;
w_i(t) - vazn koeffitsiyenti w_i ning dastlabki (oldingi) qiymati;
 w_i - vazn koeffitsiyenti w_i uchun sozlash qiymati, qaysiki quyidagi formula bo’yicha aniqlanadi:
 w_i =x_i (6)

Boshqa w_j (j ∊ [0,n], j≠i) vaznlarning ma'lum qat'iy qiymatlari uchun  ni w_i ga nisbatan o'zgarishini umumiy ma'noda 3.8-rasm shaklida tasvirlash mumkin.

3.8- Rasm. Tasniflash xatosining vazn (og'irlik) faktoriga qisman bog'liqligi

Tabiiyki, belgilangan maqsadga erishish  ni minimallashtirishni nazarda tutadi. Bu yerda ko'rinib turibdiki,  w_i ning bunday qiymati global minimumga "sakrash" uchun juda katta. Ushbu kamchilikni bartaraf etish uchun o'rgatish tezligi koeffitsiyenti (yoki o'rgatish tezligi, o'rgatish koeffitsienti)  ∊ [0,1] dan foydalanish odatiy holdir, uning yordamida siz vaznni tuzatish miqdorini nazorat qilishingiz mumkin:

 w_i =x_i (7)

(4), (5), (7) - formulalar yordamida neyronlarni o'rgatish algoritmi "delta qoidasi" deb nomlanadi. Perseptronni o'rgatishning deyarli barcha algoritmlari delta qoidasidan foydalanishga asoslangan.

3.9-rasmda rus alifbosi harflarini tanib olish uchun mo'ljallangan perseptron sxemasi ko'rsatilgan. Oldingi misolda ko'rsatilgan perseptrondan farqli o'laroq, bu perseptron rus alifbosidagi harflar soniga mos keladigan 33 ta neyronni o'z ichiga oladi. Kirishda "A" harfining kelishi birinchi neyronning chiqishidagi y1 qiymati birga teng bo'lishi va qolgan harflar uchun nolga tengligi taxmin qilinadi. Ikkinchi neyronning chiqishidagi y2 qiymati kirishda "B" harfi qabul qilinganda birga teng bo'lishi va qolgan harflar uchun nolga teng bo'lishi kerak. Va shunga o'xshash o'ttiz uchinchi neyron uchun "Я" harfigacha.

3.9- Rasm. Rus alifbosidagi harflarni tasniflovchi perseptron
Ushbu perseptronni o'rgatish algoritmi quyidagicha:
1 Barcha vazn koeffitsientlari w_ij uchun tasodifiy raqamlar generatori tomonidan ba'zi (kichik) qiymatlar tayinlanadi.
2 Harfning keyingi tasviri perseptronning kirishiga taqdim etiladi, bu esa fotoelementlar tizimi X={x_i} (i =[1,12]) kirish vektorini hosil qiladi.
3 Har bir neyron kirish signallarining vaznli yig'indisini bajaradi (1):

va (2) chegara formulasiga muvofiq chiqish signalini hosil qiladi.
4 Har bir j-chi neyron uchun _j (4) formula bo'yicha hisoblanadi.
5 Har bir vazn koeffitsienti w_ij(t+1) uchun w_ij(t) (7) ga nisbatan tuzatish kiritiladi:
 w_ij =_jx_i
6 2-5-bosqichlarni kerakli bo'lgancha takrorlash.