|
To'liq takrorlanuvchi tarmoq
Ushbu asosiy arxitektura 1980-yillarda ishlab chiqilgan. Tarmoq tugunlardan qurilgan bo'lib, ularning har biri boshqa barcha tugunlarga ulangan. Har bir neyron uchun faollashtirish chegarasi vaqt o'tishi bilan o'zgaradi va haqiqiy sondir. Har bir birikma o'zgaruvchan haqiqiy vaznga ega. Tugunlar kirish, chiqish va yashirin bo'linadi.
Diskret vaqtli nazorat ostida o'rganish uchun har bir (diskret) vaqt bosqichida kirish tugunlari ma'lumotlar bilan ta'minlanadi va boshqa tugunlar o'zlarining faollashuvini yakunlaydilar va chiqish signallari neyron tomonidan keyingi darajaga o'tkazish uchun tayyorlanadi. Agar, masalan, tarmoq nutqni aniqlash uchun mas'ul bo'lsa, natijada etiketlar (taniq so'zlar) allaqachon chiqish tugunlariga yuboriladi.
O'qitishni kuchaytirishda tarmoq uchun maqsadli signallarni ta'minlovchi o'qituvchi yo'q; buning o'rniga, ba'zan tarmoq sifatini baholaydigan fitnes funktsiyasi (fitness) yoki mukofot funktsiyasi qo'llaniladi, chiqish qiymati esa kirishdagi tarmoq xatti-harakatlariga ta'sir qiladi. Xususan, agar tarmoq o'yinni amalga oshirayotgan bo'lsa, chiqish g'alaba qozonish yoki pozitsiya ballari soni bilan o'lchanadi. Har bir pog'ona xatoni tarmoq chiqishlarining umumiy og'ishi sifatida hisoblab chiqadi. Agar o'quv namunalari to'plami mavjud bo'lsa, xato har bir alohida namunadagi xatolarni hisobga olgan holda hisoblanadi.
Xopfild neyron tarmog'i
Xopfild tarmog'i barcha ulanishlar simmetrik bo'lgan takrorlanuvchi tarmoq turidir. 1982 yilda Jon Xopfild tomonidan ixtiro qilingan, bunday tarmoqning dinamikasi muvozanat pozitsiyalaridan biriga yaqinlashishi kafolatlanadi. Agar Hebbian ta'limi ulanishlarni yaratish uchun ishlatilsa, Xopfild tarmog'i o'zgaruvchan ulanishlarga chidamli ishonchli assotsiativ xotira sifatida ishlashi mumkin.
Xopfild neyron tarmog'i simmetrik ulanish matritsasi bilan to'liq bog'langan neyron tarmoqdir. Ishlash jarayonida bunday tarmoqlarning dinamikasi muvozanat pozitsiyalaridan biriga yaqinlashadi (birlashadi). Bu muvozanat pozitsiyalari o'quv jarayonida oldindan aniqlanadi, ular tarmoq energiyasi deb ataladigan funksionalning mahalliy minimallari (eng oddiy holatda, n o'lchovli kubdagi manfiy aniq kvadratik shaklning mahalliy minimallari). Bunday tarmoq avtomatik assotsiativ xotira sifatida, filtr sifatida, shuningdek, ba'zi optimallashtirish muammolarini hal qilish uchun ishlatilishi mumkin. Ma'lum miqdordagi tsikllardan so'ng javob olinmaguncha ishlaydigan ko'plab neyron tarmoqlardan farqli o'laroq, Xopfild tarmoqlari muvozanatga erishilgunga qadar, tarmoqning keyingi holati avvalgisiga to'liq teng bo'lganda ishlaydi: boshlang'ich holat - kirish tasviri, va muvozanat holatida ular chiqish tasvirini oladilar.
Xopfild tarmog'ini o'rgatish jarayonining xususiyatlari
Xopfild tarmog'ini o'rganish algoritmi xatolarni tuzatish usuli yoki xatolarni qayta tarqatish usuli kabi klassik perseptronni o'rganish algoritmlaridan sezilarli darajada farq qiladi. Farqi shundaki, xatoni hisoblash bilan kerakli holatga ketma-ket yaqinlashish o'rniga, barcha matritsa koeffitsientlari bitta formula bo'yicha, bitta tsiklda hisoblanadi, shundan so'ng tarmoq darhol ishlashga tayyor bo'ladi.
Ba'zi mualliflar Xopfild tarmog'ini nazoratsiz o'rganishga murojaat qilishadi. Ammo bu to'g'ri emas, chunki nazoratsiz o'rganish stimullarni qaysi sinflarga tayinlash kerakligi haqida ma'lumot yo'qligini anglatadi. Xopfild tarmog'i uchun ushbu ma'lumotsiz og'irlik koeffitsientlarini sozlash mumkin emas, shuning uchun bu erda biz faqat bunday tarmoqni optimallashtiruvchi tarmoq (filtr) sifatida tasniflash mumkinligini aytishimiz mumkin. Filtrlarning o'ziga xos xususiyati shundaki, vazn matritsasi deterministik algoritm bilan bir marta va umuman sozlanadi, keyin esa og'irliklar endi o'zgarmaydi. Bu bunday qurilmani jismoniy amalga oshirish uchun qulay bo'lishi mumkin, chunki sxema darajasida o'zgaruvchan og'irlik koeffitsientlari bo'lgan qurilmani amalga oshirish qiyinroq kattalik tartibidir. Teskari aloqasiz filtrga misol sifatida S.Kak mualliflik qilgan CC4 (Cornel tasnifi) algoritmini keltirish mumkin.
Xopfild tarmog'ida fikr-mulohazalar mavjud va shuning uchun barqarorlik muammosini hal qilish kerak. Xopfild tarmog'idagi neyronlar orasidagi og'irliklarni o'zaro ta'sir matritsasi sifatida ko'rish mumkin. Koen va Grossberg, agar matritsa simmetrik bo'lsa va asosiy diagonalda nolga ega bo'lsa, aloqa tarmog'i barqaror ekanligini ko'rsatadi. Turg'un tizimlarning boshqa ko'plab turlari mavjud, masalan, barcha oldinga uzatiladigan tarmoqlar, shuningdek, simmetriya sharti shart emas, zamonaviy Jordan va Elman takroriy tarmoqlari. Ammo bu fikr-mulohazaga boshqa cheklovlar qo'yilganligi bilan bog'liq. Xopfild tarmog'i holatida simmetriya sharti zarur, ammo etarli emas, ya'ni tarmoqning ishlash rejimi barqaror holatga erishishga ham ta'sir qiladi. Quyida ko'rsatilishicha, tarmoq ishining faqat asinxron rejimi tarmoqning barqaror holatiga erishishni kafolatlaydi; sinxron holatda, ikki xil holat o'rtasida cheksiz almashish mumkin (bu holat dinamik tortishish deb ataladi, barqaror esa barqaror. holat odatda statik attraktor deb ataladi).
Do'stlaringiz bilan baham: |
