Multilayer Perceptron: Architecture Optimization and Training

Orqaga tarqalish va O'rganish uchun de MLP

MLP uchun o'rganish - bu tarmoq chiqishi va kerakli natija o'rtasidagi minimal farqni olish uchun ulanish og'irliklarini moslashtirish jarayonidir, buning uchun adabiyotda ba'zi algoritmlardan foydalaniladi, masalan, Chumolilar koloniyasi [11], lekin eng ko'p ishlatiladigan algoritm deb ataladi. Descent gradient texnikasiga asoslangan orqa tarqalish jodugar [12].


Chiqish Y _W N
Yashirin qatlam h _N

Chiqishlar Yashirin qatlamlardagi neyronlar oqimi sifatida hisoblashadi:

(3)

Qayerda , hisoblanadi the vazn orasida the neyron ichida the yashirin qatlam
va neyron yashirin qatlamda , neyronlarning soni ichida the ith yashirin qatlam, The chiqish ning the ith mumkin bo'l quyidagicha tuzilgan:

(4)

Tarmoq chiqishi hisoblanmoqda

(5)

Qayerda neyron orasidagi og'irlikdir N-chi yashirin qatlam va neyronda chiqish qatlamida, neyronlarning soni ichida the N yashirin qatlam, hisoblanadi the vektor ning chiqish qatlam, hisoblanadi
uzatish funktsiyasi va og'irliklar matritsasi bo'lib, u quyidagicha aniqlanadi :

Anjir 1. Oziqlantirish oldinga asabiy tarmoq tuzilishi.

Yashirin qatlam h _{i W} i-1
Yashirin qatlam h _{2 V} 1
Yashirin qatlam h <sub>1


W</sub> 0
Kiritish qatlam
uchun biz olishimiz mumkin hammasi yashirin qatlamlar. Qayerda _ the kiritish ning asabiy tarmoq va hisoblanadi the faollashtirish funktsiyasi va orasidagi og'irliklar matritsasi yashirin qatlam va uchun yashirin qatlam og'irliklar matritsasi hisoblanadi
orasida the kiritish qatlam va the birinchi yashirin qatlam, va bo'ladi the matritsa
ning og'irliklar orasida N yashirin qatlam va chiqish qatlami.

2.