Xavfsiz marshrutlash masalalarini yechishda qo’llaniladigan algoritlarni tadqiq qilish Murakkablashtirilgan masalalarni yechish uchun intellektual axborot texnologiyalari

2.2. Neyron tarmoq ekspertlarining boshlang'ich holatini initsializatsiyalash.

Neyron tarmoq ekspertlarining dastlabki holatlarida sinaptik ulanishlarning vazn koeffitsientlari va neyro tarmoqning o'rganish jarayonining boshlanishidan oldin aktivlashtirish funktsiyalari parametrlari mavjud.Ushbu parametrlar barcha o'quv jarayoniga ta'sir qiladi. Og'irlik koeffitsientlarining maqbul dastlabki qiymatlari sifatida tarmoq parametrlari o'rganiladigan namunadagi elementlarga kutilgan reaktsiyalarni ta'minlaydigan tarzda o'rnatiladi. Natijada, o'quv jarayoni tezlashadi va mahalliy minimallashuvdagi kechikishlarni bartaraf etadi. Amaliy muammolarda bunday vaziyatni aniqlashning deyarli imkoni yo'q va ta'lim usulidan avval neyro tarmoqning parametrlarini ishga tushirish uchun turli usullar qo'llaniladi.

Kuchli koeffitsientlarning parametrlarini dastlabki ishga tushirish tartibi alohida neyron tarmoq ekspertlarini o'qitish uchun muhim ahamiyatga ega. Dastlabki qiymatlar noto'g'ri o'rnatilgan bo'lsa, neyronlarning ba'zi sigmoidal aktivizatsiya funksiyalarini to'yingan rejimga kiritish mumkin bo'ladi. Bu neyron ma'lumotlarini butun neyron tarmog'ining ishlashiga olib keladi. Natijada assotsiativ mashinaning individual komponentlarini taxminiy qobiliyatlari zaiflashib, bu uning tanazzulga uchrashiga va yaratilgan muammolarni hal etishga qodir emasligiga olib keladi.

Og'irliklarni boshlashning asosiy usullaridan biri og'irlik parametrlarini tasodifiy o'rnatish usulidir. Bunday o'rnatish natijasi sifatida har bir neyronning boshlang'ich holatini olishga harakat qilinadi, bu uning to'yinganligidan ancha uzoqqa cho'ziladi. Ko'pgina tajribalar asosida turli tadqiqotchilar ushbu vazn koeffitsientlarining qiymatlarini topish mumkin bo'lgan turli intervallarni taklif qiladilar, ko'p hollarda interval

(0, ..., 1) qabul qilinadi. Nolinchi qiymat dastlabki qiymatlarni vazn koeffitsientlariga belgilashga ruxsat etilmaydi Degradiy usullar bilan optimallashtirish mumkin emas, chunki lotinlar nolga teng. Bu holatda, mashg'ulotni gradient yondashuv bilan boshlamaslik kerak - nol tartibda optimallash usullarini qo'llang : tasodifiy qidirish usuli, koordinatani olish usuli, polidronli usul va boshqalar.

O'quv jarayonidan oldin neyro tarmoqning parametrlarini tasodifiy tuzatish usuliga ko'ra, vazn koeffitsientlarining dastlabki qiymatlari turli xil taqsimotlar asosida yaratilishi mumkin bo'lgan ko'plab o'zgarishlar mavjud. Ushbu klassning barcha usullari jiddiy kamchiliklarga ega: ta'lim namunasining xususiyatlarini tahlil qilish amalga oshirilmaydi. O'quv jarayoni uzoq vaqt davomida abadiy rivojlanishi mumkin.

O'quvdan oldin neyro tarmoqning parametrlarini tasodifiy tartibga solish usuliga alternativa asosiy komponent uslubi hisoblanadi. Oya algoritmi, Hebb filtri, APEX algoritm va boshqalar: jarayoni mohiyati usullaridan birini foydalanib keyingi ajratish ota topgan ent yotadi va ularni neyronlarning qatlamlari orqali yuborish. Chiqarish qatlami neyro tarmoqning oxirgi qatlamining chiqindilaridan namuna ezilganlarning liniya regressiyasiga asoslan-gan holda ishga tushiriladi. Ushbu algoritmning ijobiy tomoni - dastlabki qiymatlarni hisoblashni parallel tashkil qilish imkoniyatida. Algoritmning nochorligi asosiy komponentlarni hisoblash uchun algoritmlardan foydalanishga cheklashlar bo'lib, ular neyron tarmoq tuzilishiga cheklovlar qo'yadi. Ushbu kamchilikni bartaraf etish uchun tarmoq tuzilmasini o'zgartirish tartibqoidalari talab qilinadi.

Ushbu paragrafda, har bir bosimining ko'tarilishi maxsus dasturini hisobga olgan holda, ko'p qatlamlik neyron tarmoqning dastlabki qiymatlarini ishga tushirish usuli bilan foydalanishni taklif qilamiz. Barcha neyron tarmoqlar neyron tarmoq eksperti natijalari asosida yakuniy qarorni qabul qiladigan strukturaning bir qismi sifatida ishlaydi. Chunki assotsiatsiyalashgan mashina murakkab ichki topologiyaga ega bo'lsa, unda tarmoqlarning boshlang'ich parametrlarini o'zgartirishni birlashtirib, o'quv namunalarining elementlari bo'yicha dastlabki ma'lumotlarga asoslangan holda va og'irliklarni tasodifiy boshlash usuli hisobga olinadigan usul qo'llanilishi kerak. Ushbu muammoni hal etish uchun kooperativ immunga asoslangan yondashuvga asoslanib ishga tushirishni boshlash usuli taklif etiladi. Ushbu usul butun qaror tizimining strukturasini inobatga olib, neyro tarmoqning parametrlarini o'qitishdan oldin tuzatish uchun algoritm yaratishga imkon beradi, shuning uchun neyro tarmoqning barcha to'plamlarini iloji boricha samarali o'qitish va amaliyot bilan imkon qadar samarali ishlashi mumkin.

Neyron tarmoqlarni o'qitish algoritmlari. O'rta qatlamlar sonini va ulardagi elementlarning sonini aniqlash neyron tarmoqlarini loyihalashda muhim ahamiyatga ega. Kirish va chiqish elementlarining soni muammoning shartlari bilan belgilanadi. Qatlamlar sonini va elementlarning sonini (mavzuga qarab) ularning har birida aniqlangandan keyin, tarmoq tomonidan ishlab chiqarilgan prognozning xatosini kamaytirishga olib keladigan og'irliklar va tarmoq eshiklari uchun qiymatlarni topish kerak. Buning uchun ta'lim algoritmlari ishlatiladi. Yig'ilgan statistikani qo'llagan holda, ushbu xatolarni kamaytirish uchun vaznlar va eshiklar avtomatik ravishda o'rnatiladi. Ushbu jarayon tarmoq orqali amalga oshiriladigan modeldagi mavjud ta'lim ma'lumotlariga moslashtiriladi. Muayyan tarmoq konfiguratsiyasi uchun xato barcha mavjud kuzatuvlarni tarmoq orqali o'tkazish va haqiqiy chiqish qiymatlarini istalgan qiymatlar bilan taqqoslash bilan aniqlanadi. Xavfsiz axborot marshrutlash tizimlarida neyron tarmoqlarining murakkab kompleksini qo'llash uchun neyron tarmoq parametrlarini optimallashtirish uchun algoritm kerak bo'lib, u tezda qabul qilinadigan vaqtga yaqinlashadi va noto'g'ri qaror qabul qilish ehtimolini kamaytirish maqsadida neyron tarmoq ekspertini shakllantiradi. Buning uchun katta tanib olish xatoligi bilan minimallashtirish printsipiga asoslangan turli xil ta'lim algoritmlarini qo'llash mumkin .

Ko'p qavatli neyron tarmoqlar uchun eng mashhur va eng ko'p ishlatiladigan algoritm bu xatoni qayta tarqatish usuli hisoblanadi. Ushbu maqolada bu usul ko'pburchak perceptron asosida ekspertni tayyorlash uchun ishlatiladi.

Ko'p qatlamli perceptronni xato bilan qayta tarqatish usuli bilan o'rgatishda kirish va vektorlarning kerakli chiqish signallarini aniqlab olish kerak: {X 1, X 2, ..., X p} va {D 1, D 2, ..., D p}, bu yerda p - elementlarning soni mashg'ulot to'plamida.Tarmoqning vazifasi bo'lganda, vektor X_b kirish retseptorlariga boradi, chiqish vektor Y_q hosil qiladi, bu yerda q = 1, 2, ..., p - ko'rsatiladigan tasvirning soni.Y_q tarmog'ining chiqish vektori mos keladigan vektor D_g dan farq qiladi. Tarmoqdagi xatoliklar chiqish vektorining istalgan qiymatidan chetga chiqishi deb hisoblanishi mumkin: har bir juft kirish-chiqish qiymatlari uchun E=D_q-Y_q. Sinaptik ulanishlarning vazn o'lchov koeffitsientlarini moslashtirsa, tarmoq xatolikni ta'lim namunasidan dastlabki qaramlikka chiqaradi.Ushbu usul tarmoq orqali ikkita o'tish marshruti bilan yineluvchi o'quv jarayonini amalga oshiradi: to'g'ridan-to'g'ri va teskari, bu yerda kirish signali vektorining funk-sional o'zgarishlari aniqlanadi va og'irlik koeffitsientlarining parametrlari to'g'rilanadi.

Tanlangan turdagi radial asos funktsiyasini hisobga olgan holda RBF tarmog'ini o'rganish jarayoni kamayadi:

• markaz funktsiyalari va asosiy funktsiyalar rasmlarining parametrlarini tanlash;

• chiqish qatlamidagi neyronlarning og'irliklarini tanlash.

Radial-bazaviy neyron tarmoqlar xato funksiyasini minimallashtiradigan algoritm yordamida o'qitiladi:

Bu yerda p - o'quv namunalarining soni, d=(d1, d2, ..., dp) kutilgan qiymatlar vektori.

Radial-bazaviy funktsiyalar markazlarini optimal sozlash quyidagi marshrutlar bilan amalga oshirilishi mumkin:

1. Markazlarning aniq qiymatlarini tanlab olish, ayrim ma'lumotlarni kiritish ma'lumotlarini tanlash yoki ba'zi ehtimollik qonuniga asoslanib.

2. Ma'lumotlar to'plamlari klasterlarga bo'linadi. Klaster markazlari odatiy funktsiyalar markazlari sifatida qabul qilinadi.

3. Klaster markazlari radial bazaviy funktsiyalarning boshqa parametrlari bilan mutanosib ravishda optimallash parametrlari sifatida ishlaydi.

Adabiyotni tahlil qilsak, radius-bazaviy funktsiyalar markazlarini yaratish uchun ishlatiladigan tez-tez ishlatiladigan usullardan biri k-vositalarini qo'llash ekanligini ko'rsatdi.Ushbu algoritmga ko'ra radial-bazaviy funksiya tarmoq neyronlarining yashirin qatlamlari markazlari maksimal miqdordagi informatsion ma'lumot to'plangan joylarda joylashgan.

Radial-bazaviy funktsiyalarning kenglik parametrlarini tanlash uchun quyidagi variantlarni qo'llang:

1. Parametr sobit va oldindan tanlangan.

2. Radial-bazaviy funktsiyaning kengligi olingan klasterlar haqidagi ma'lumotlar asosida aniqlanadi.

3. Kenglik parametri sozlanishi parametr sifatida qabul qilinadi va optimallash-tirishga bog'liq.

Radial-bazaviy funktsiyalarning dastlabki sozlashlaridan so'ng ularning neyronlarning radius-bazaviy funktsiyalarining og'irliklarini, markazlarini va kengliklarini moslashtirish uchun foydalaniladigan gradient o'rganish algoritmidan foydalangan holda, vazn koeffitsientlarini moslashtirish va sozlash amalga oshiriladi:

Bu yerda b, a, ē ta'lim koeffitsientlari, s, c, w - radius-bazaviy funktsiyalarning kengligining sozlanishi og'irliklari, markazlari va parametrlari.

Qayta tarmoqlarni sintez qilishda yuzaga keladigan asosiy muammo barqarorlikni ta'minlash bilan bog'liq bo'lib, bu vazifani hal qilish imkoniyati bog'liqdir.

Tarmoqdagi yashirin va chiqish qatlamidan tashqari, kontekst qatlami yoki davlatlar qatlami deb ataladigan bir geribildirim qatlami mavjud. Ushbu qatlamning neyronlarning chiqish signallari kechikish elementlari orqali kirish qatlamiga kiradi. Ishlanadigan ma'lumot bir soat tsikli uchun saqlanadi. Keng qamrovli muammolarni hal qilish uchun Elmanning neyron tarmog'ini sozlash uchun universal algoritm sifatida Uilyams va Zipserning asarlari asosan eng tez-tez uchraydigan usuldan foydalaniladi. Ushbu usulni qo'llash uchun hozirgi paytda ob'ektiv funktsiyani baholashni hisoblash kerak. Ob'ektiv funktsiya olingan signallar va kutilgan qiymatlar o'rtasidagi farqlar kvadratlarining yig'indisi :

qayerda y_ii neyronning chiqish signali bo'lsa, d_i i neyronning kerakli chiqish signalidir.

Neyron tarmoqlarining hisoblangan me'morchiligi odatda gradient usullari yordamida o'rganiladi. Ushbu turdagi usullar quyidagi afzalliklarga ega:

1. Ta'lim algoritmini amalga oshirish uchun joriy neyronning cheklangan miqdordagi soni tarmoq elementlarining qolgan qismiga nisbatan qo'llaniladi. Bu xususiyat sizga o'quv jarayonini muvaffaqiyatli parallel qilish imkonini beradi.

2. Gradient algoritmlari o'zlarining o'zaro o'xshashligini yuqori darajada ifodalaydi. Ta'lim usulini o'zboshimchalik bilan qatlamlar soni, kirishlar va ezilgan o'lchovlari va faollashtirish funktsiyalari uchun ko'paytirish oson. Bundan tashqari, gradient algoritmlari (masalan, xatolarni qaytarish uchun algoritm) turli gradientli optimallash usullari bilan birgalikda qo'llanilishi mumkin.

3. Orqa xatolarni tarqatish algoritmlari degradiyani to'g'ridan-to'g'ri hisoblashdan kamroq operatsiyalarni talab qiladigan samarali gradyan hisoblash mexanizmiga ega.

Yuqoridagi afzalliklarga qo'shimcha ravishda, gradient algoritmlari bir qator kamchiliklarga ega (1-jadval):

1. Tarmoqni bloklash qobiliyati. Algoritm turli vaznlarning hosilalari juda farqli bo'lgan hollarda samarali emas.

2. O'quv jarayonining asta-sekin yaqinlashishi mumkin.

3. Qayta tayyorlash. O'quv namunasida erishilgan yuqori aniqlik, test namunasi bo'yicha qabul qilinadigan natijalarga olib kelishi mumkin.

4. Mahalliy minimalgacha "Hit" ni bosing.

Kollektiv qarorlarni qabul qilish uchun assotsiatsiyalashgan mashinaning bir qismi sifatida ko'p neyron tarmoqlari ishlatilganda, agar imkon bo'lsa, kamchiliklarni bartaraf qilish yoki kamaytirish uchun ularni o'qitish tartibini amalga oshirish kerak. Ushbu maqsadga erishish uchun turli estrodiol evristik protseduralar qo'llaniladi, ularning yordamida neyron tarmoqlarining og'irlik koeffitsientlarida kichik tasodifiy o'zgarishlar amalga oshirilishi mumkin. Ushbu maqolada, uch evristik algoritm kombinatsiyalashgan optimallash usullari asosida ishlab chiqilgan va neyro tarmoqni tuzishning ikki usulini birlashtiruvchi usul qo'llaniladi. Degradiya algoritmlari va evristik protseduralar birlashmasi degradatsiyani kafolatlaydigan gradyanli optimallash usullaridan foydalanishga imkon beradi va evristikani qo'llash global optimal darajaga yaqin bo'lgan echimni topish ehtimoli oshiradi.

1-Jadval. Har xil neyro tarmoq turlarini o'rganish algoritmlarini tahlil qilish

Neyron tarmoq eksperti turi	Bazaviy o’qitish algoritmi	Evristik algoritmlari orqali yechiladigan masalalar
Ko’p qatlamli	Xatoliklarni teskari tarqatish algoritmi	1. Lokal minimumlaridan chiqish. 2. Tarmoqni kengaytirilgan optimal qiymatini konfiguratsiyasini izlash. 3. Ayrim sinaptik aloqalarni yoki barcha tarmoqni blokirovkalash imkoniyati.
Radial-bazisli neyron tarmoq	Radial-bazisli neyronlar parametrlarini klasterizatsiyalash algoritmi va gradientli optimallash algoritmi.	1. Tarmoqdagi radial-bazisli elementlar parametrlarini aniqlash. 2. Yashirin qatlamlarning vazn koeffitsienti parametrlarini aniqlik kiritish. 3. Radial-bazisli funksiya ta’sir maydonini sozlash.
Rekurrent Elman neyrotarmog’i	Tezlashtirilgan ishga tushrish usuli	1. Yashirin va holatlar qatlami vazn koeffitsentlari parametrlarini kattalashtirish. 2. Tarmoqda neyrotarmoq elementlari chegara qiymatlarini aniqlash. 3. Tarmoq turg’unligini oshirish.

Neyron tarmoqlarining guruhlari. Murakkab muammolarni hal qilishda, parallel qayta ishlash va bir xil muammolarni hal qilish bo'yicha turli xil algoritmlardan foydalanilsa ham, qabul qilinadigan yechimni yoki taxminiy qaramlikning zarur sifatini olish urinishlari natijaga erishilmasligi mumkin. Bunday holda, bir nechta algoritmlarni kompozitsiyaga birlashtirib, bu muammoni hal qilishga imkon beradi.Bir nechta neyron tarmoqlar - guruhlardan foydalangan holda neyron tarmoq usullaridan foydalangan holda muammolarni hal qilishda ma'lumotlar bir necha neyro tarmoq yordamida amalga oshiriladi. Tasniflash, regressiya, prognozlashning murakkab muammolarini hal qilishda ko'pincha algoritmlarning hech biriga qaramlikni tiklashning kerakli sifatini ta'minlamaydi. Bunday hollarda algoritmlar kompozitsiyalarini yaratish kerak, unda algoritmlarning xatolari o'zaro bartaraf etiladi.

Murakkab ichki qaramliklarni hisobga olgan holda hisoblash muammolarini ularni kichik va oddiy muammolarga aylantirish marshruti bilan hal qilish, so'ngra olingan yechimlarni birlashtirish. O'qituvchi bilan ta'lim berishda hisoblash soddaligi, o'z navbatida, kirish maydonini bir qator pastki maydonlarga aylantirish imkonini beradigan ko'plab ekspertlar orasidan ta'lim vazifasini taqsimlash marshruti bilan amalga oshiriladi. Bunday ekspertlarning kombinatsiyasi, agar sun'iy neyron tarmoqlari ekspert sifatida ishlatilsa, neyron tarmoq qo'mitasi (assotsiativ mashina) deb ataladi .Ushbu mexanizm ekspertlar to'plagan bilimlarni birma-bir ekspertning har bir qarori ustidan ustunlikka ega bo'lgan umumiy yechimga birlashtiradi. Muammoni hal qilish bilan bog'liq ma'lumotlarni qayta ishlash asosida olingan ekspertlarning qarorlari talab qilinadigan sifatli yechimni olish imkonini beradi deb hisoblashadi.

Agar yechim ko'plab ekspertlardan olingan bo'lsa, unda uni rasmiylashtirish jarayonida bir qator savollarga javob berish kerak:

1. Ekspertlarning xulosalari bir-biriga zid bo'lishi mumkin. To'g'ri echim topish uchun bir nechta ekspert ekspert baholashlarini qanday qilib birlashtirish mumkin?

2. Neyron tarmoq eksperti ishonchini qanday baholaydi? Neyron tarmoqlari turli xil algoritmlar yordamida o'rgatilishi mumkin: evolyutsiya printsiplariga asoslangan - immun va genetik algoritmlar, xatolarni qayta targ'ib qilish algoritmi, stokastik optimallash algoritmlari. O'quv jarayoniga qo'shimcha ravishda, tarmoq strukturasini optimal qilish kerak: ular orasida neyronlarning sonini va ular o'rtasidagi ulanishlarning topologiyasini aniqlash, faollashtirish funktsiyasini tanlash uchun, fikr-mulohaza zarurligini aniqlash. Agar neyron tarmoq mutaxassilari to'g'ri konfiguratsiyaga ega bo'lmasalar (masalan, ortiqcha vaznlarning mavjudligi umumlashma sifatining pasayishiga olib keladi, chunki ular neyron tarmog'ining ishlashi paytida o'zboshimchalik bilan qadriyatlarni olishi mumkin va shuningdek, o'rganish algoritmlarining yanada takrorlanishiga olib keladi) malakali ekspertning fikriga asoslanadi.

Ekspertlar qo'mitalari ikki toifaga bo'linishi mumkin:

1. 
   Statik tuzilmalar.Birlashtiruvchi mashina sinfida Individual ekspertlarning ishlash natijalari birlashtirildi, lekin kirish signali hisobga olinmaydi. Ushbu turkumda siz quyidagi echimlarni topishingiz mumkin:
   

• 
  guruhni ortda qoldirish. Chiqish signallari individual qaror algoritmlarining chiqishlarining lineer kombinatsiyasi sifatida hisoblanadi.
  
• 
  kuchaytirish. Zaif o'rganish algoritmi o'zboshimchalik bilan belgilangan aniqlikka erishadigan algoritmga aylanganda.
  

• joylashtirish. Ko'p darajadagi neyron tarmoqlari ekspertlaridan foydalangan holda kompozitsion modellarni sintez qilish usuli.

Bog'lanish. Ko'plab ekspertlarni tayyorlash namunasi asosida to'plash va keyinchalik ekspert xulosalarini birlashtirish.

2. 
   Dinamik tuzilmalar. Agar assotsiatsiya mashinasi ushbu printsipga muvofiq qurilgan bo'lsa, u holda kirish signali qabul qilingandan so'ng, ekspertlar chiqish signallarini birlashtirish mexanizmidagi kirish signali qiymatlari hisobga olinadi. Dinamik tuzilmalarni amalga oshirishda ikki yondashuv mavjud.
   

Ekspertlarning aralash fikrlari - individual ekspertlarning faoliyati natijalari bir qator shlyuz tarmog'iga to'g'ri kelmaydi.

Ekspertlar fikrini ierarxik birlashtirish - individual ekspertlardan olingan echimlar, ierarxik tuzilmada tashkil etilgan bir necha shlyuz tarmoqlarining yordami bilan doğrusal bo'lmagan tarzda birlashtiriladi.

Ekspertlar tomonidan qabul qilingan qarorlarni qabul qilish marshrutlarini amalga oshirish xususiyatlarini ko'rib chiqaylik.

Guruhning o'rtacha miqdori alohida o'qitilgan neyron tarmoqlardan foydalanishni o'z ichiga oladi. Ekspertlarning chiqish signallari muammoni hal qilish uchun muayyan usulda birlashtirilgan. Algoritmni qo'llash quyidagi sabablarga bog'liq:

1. Tarmoqlarning umumiy yig'indisidagi har bir tarmoq guruhni almashtirishga qodir bo'lgan neyron tarmoqdan ko'ra oddiyroq me'morchilikka ega.

2. Murakkab ichki arxitekturali tarmoqlarda qayta o'qitish xavfi ortadi. O'qitish algoritmining to'g'ri bajarilishi uchun ta'lim namunasining hajmi yetarli bo'lmasligi mumkin.

Chiqish signali neyron tarmoq ekspertlari tomonidan chiqariladigan chiqish signallarining linear kombinatsiyasi bilan birlashtiriladi. Turli ekspertlarning fikrini birlashtirishning eng oddiy misoli oddiy ovozdir:

Bu yerda x = (x 1, x 2, ..., hk) kirish vektori, k - neyron tarmoq retseptorlari soni, y (x) = (y 1, y 2, ..., yn) - bu neyron tarmoqlar qo'mitasidan chiqadigan signal vektori , kirish vektoriga javob sifatida olingan, n - ekspert natijalari soni, F - hosil bo'lgan eritmani hisoblaydigan tuzatish operatsiyasi va T guruhdagi neyron tarmoq eksperti soni. Agar ovoz berishning ushbu turidan foydalanishning misoli sifatida tasniflash muammosi ko'rib chiqilsa, u holda huruhdagi obyekt obyektning sinxron tarmog'i ekspertlarining sinfiga tegishli bo'ladi.

Guruhning o'rtacha usulining afzalliklarini ko'rib chiqing:

1. Dasturning qulayligi.

2. Usulni hisoblashning murakkabligi alohida neyron tarmog'i ekspertlarini o'qitish algoritmlaridan ancha past.

Ushbu usulning kamchiliklari quyidagilarni o'z ichiga oladi:

1. Ekspertlar qo'mitasining yakuniy natijalaridan individual ekspertlarning vakolat koeffitsientlarini to'g'ri aniqlashga bog'liqligi. Agar koeffitsientlar to'g'ri taqsimlanmagan bo'lsa, noto'g'ri natijalar olinadi.

2. Amaliy topshiriqlarda, ta'lim namunasi shovqinlarni chiqarib tashlaydi, bu esa ayrim ekspertlarning ishi davomida xatolar ehtimoli kuchayishiga olib keladi. O'rganish algoritmining "shovqin" ga moslashishga urinishi tarmoqning taxminiy imkoniyatlarini pasayishiga olib keladi. Shuning uchun bu kamchilikni bartaraf etish uchun aralashuv darajasini kamaytirish uchun qo'shimcha ma'lumotlarni tahlil qilish algoritmlaridan foydalanish kerak: tasodifiy va qatlamli namunalar olish, dublikatlar va ziddiyatlarni qayta ishlash, g'ayritabiiy qadriyatlarni aniqlash, ma'lumotlar skiplarini tuzatish. Ushbu modifikatsiyalar algoritmning hisoblash murakkabligini ancha oshiradi.

Daromad uslubi - "statik" biriktiruvchi asboblar sinfini qo'llashning ikkinchi usuli. Guruhning o'rtacha darajasiga asoslangan neyron tarmoq qo'mitalarida barcha mutaxassislar bir xil ma'lumotlar to'plamida o'qitiladi. Tarmoqlar bir-biridan faqat boshlang'ich holatni tanlash bilan farqlanadi: og'irlik koeffitsientlarining boshlang'ich qiymati, eshiklar, o'qish tezligi koeffitsienti va boshqalar. Aksincha, kengaytirish usuli asosida ishlaydigan tarmoq mutaxassilari to'liq distribyutorliklarga oid misollar bo'yicha o'qitiladi. Birlashtiruvchi mashina qurish usuli har qanday algoritmning ish faoliyatini oshirish uchun ishlatilishi mumkin .

Avvalgi algoritm bilan solishtirganda, kuchaytirish usuli ham murakkab jarayondir. Guruhning o'rtacha usulida modellar bir-biridan parallel va mustaqil ravishda qurilishi mumkin. Amplifikatsiya usulida ekspertning har bir yangi modeli ilgari qurilgan natijalar asosida sintezlanadi, buning natijasida modellar ketma-ket yaratiladi.

Amplifikatsiya usuli turli marshrutlar bilan amalga oshirilishi mumkin:

1. Filtrlash orqali kuchaytirish.

2. Qayta tortish orqali kuchaytirish.

Filtrlash orqali amplifikatsiyani qo'llashda assotsiativ mashina K ekspert-laridan iborat. Bunday trening uchun ishlatiladigan algoritm daromad algoritmi deb ataladi. Ekspertlar o'zboshimchalik bilan G1, G2, ..., GK deb belgilanadilar. Ular quyidagi strategiya uchun alohida ta'lim olishadi:

1. Birinchi ekspert N 1 ta misoldan iborat to'plam bo'yicha tayyorlanadi.

2. O'qitilgan birinchi ekspert ikkinchi misolni filtrlash uchun ishlatiladi.

3. Ikkinchi ekspertni o'qib bo'lgach, keyingi ekspertni tayyorlash bo'yicha ko'plab misollar quyida keltirilgan algoritmga muvofiq tuziladi:

• Birinchi va ikkinchi ekspertlarning kiritmalariga yangi misol keltirilgan. Ekspertlar bir xil chiqish signali berilsa, unda namuna rad etiladi. Agar neyron tarmoq mutahassislarining topilmalari boshqacha bo'lsa, unda ushbu namuna keyingi ekspertni tayyorlash uchun ishlatiladi.

• Algoritm barcha N1 namunalarining to'plamini filtrlashgacha ishlaydi. Keyinchalik uchinchi ekspertni tayyorlash uchun olingan natijalar to'plami.

Oxirgi neyron tarmoq eksperti filtrlangan namuna to'plamlarini tayyorlashni tugatgandan so'ng, butun qo'mitaning ta'lim jarayoni to'liq hisoblanadi.

Amplifikatsiya usulini tashkil etishning ikkinchi usuli namunalarni ishlatishga asoslangan. Namunalarni dastlabki ma'lumotlar to'plamidan chiqarish o'rniga, misollarni torting. Har bir misolning og'irlik koeffitsienti ekspertning o'qitish jarayoniga ta'siri bo'yicha aniqlanadi. Algoritmning har bir itarrasida og'irlik ushbu neyron tarmoq eksperti samaradorligini tavsiflash uchun o'zgaradi. Ekspertlar guruhini shakllantirishning umumiy sxemasi 10-rasmda keltirilgan.

10-rasm. Ekspertlar to'plamini rasmlantirish sxemasi.

Eksperiment natijalari, agar har bir ekspertning t ga xatosi har doim 0,5 dan kam bo'lsa, unda so'nggi ekspert xarakterining qiymati ko'payib borayotgan iteratsiyalar soni bilan 0 ga teng. Shunday qilib, ushbu amplifikatsiya algoritmi ekspertlarimizga nisbatan aniqroq olingan va ma'lumotlarning shovqin qismlariga nisbatan kamroq ta'sir etuvchi yakuniy ekspert Gfning umumlashtiruvchi qobiliyatini mustahkamlashga imkon beradi.

Amplifikatsiya usulining asosiy kamchiliklari quyidagilarni o'z ichiga oladi:

1. Algoritmni muvaffaqiyatli amalga oshirish uchun ko'plab misollarni tayyorlash kerak.

2. Ekspert tizimining barpo etilishi yangi asosiy neyron tarmoqlarning ochilishiga olib keladi, bu esa samarasiz neyron tarmoq tuzilmalarini qurish va ularni o'qitish uchun sezilarli hisoblash resurslarini talab qilish uchun qurilishi mumkin.

3. Daromad olish algoritmining ishlashi jarayonida dastlabki namunaning turli qismlari o'quv jarayonidan chetga chiqadi, bu esa so'nggi modellar qurilgan o'qitish namunasining degeneratsiyasiga olib keladi.

Stakalash odatda asosiy qarorlar algoritmlarining yagona prineyro tarmoqipga asoslangan holatlarda ishlatilmaydi, shuning uchun neyron tarmoq eksperti sifatida turli neyron tarmoqlardan foydalanish kerak: ko'p qatlamli perceptron, Hopfild tarmog'i, signali tarmog'i, bevosita neyron tarmoqlari va boshqalar. Bir nechta qaror qabul qilish algoritmlari mavjud bo'lganda, odatiy tartib - har bir algoritmning vakolatini aniqlash va qaror qabul qilish uchun ishlatiladigan eng yaxshi variantni tanlashdir. Ushbu yondashuvdan farqli o'laroq, meta-ta'lim kontseptsiyasi saylov jarayonida muqobil bo'lgan ketma-ketlikda ishlatiladi. Yig'ish algoritmining strukturaviy sxemasi 19-rasmda keltirilgan.

11-rasm. To'plamning blok diagrammasi .

Barcha asosiy ekspertlar (bu yerda ish olib boriladi) turli tuzilmalar va me'moriy neyron tarmoqlari A darajasini tashkil qiladi. Meta modelning kiritilishida (B darajasi) natijalar tayanch modellarning chiqqandan chiqadi. Jarayon, algoritmni to'xtatish sharoitiga qadar davom etadi: belgilangan aniqlikka erishish, barcha mumkin bo'lgan hisoblash resurslaridan foydalanish va boshqalar.

Yig'ish modelining asosiy kamchiliklari quyidagilarni o'z ichiga oladi:

1. Nazariy tahlilning murakkabligi ko'plab ketma-ket modellarga bog'liq.

2. Metamodelning darajasi o'sib borishi mumkin, bu esa hisoblash resurslarining tez pasayishiga olib kelishi mumkin.

Ekspertlarning fikrlarini birlashtirishning keyingi usuli stokastik usullar bilan bog'liq. Asosiy algoritmlar ta'lim namunasining tasodifiy tanlangan quyi qismlarida bir-biridan mustaqil ravishda belgilanadi. Namunalarni shakllantirish tasodifiy tarzda amalga oshiriladi, shuning uchun ayrim misollar bir necha marta, boshqalari esa hech qachon topilmaydi. Keyin, ta'lim namunasining har bir to'plamiga asosan neyron tarmoq mutaxassisi quriladi. Olingan algoritmlarning ishlash natijalari oddiy yoki og'irlikdagi ovoz berish yordamida kompozitsiyaga biriktiriladi. Payvandlash ishining asosi - bu "to'siq va birlashtiruvchi" texnologiyadir, chunki ta'lim to'plamidagi kichik o'zgarishlar bir nechta turli neyron tarmoq modellarini shakllantirishga qodir. Bunday holda, modellarning beqarorligi guruhlarni yaratish uchun ishlatiladi. "Buzuqlik" deganda o'zgargan ma'lumotlarga asoslangan bir nechta alternativ modellarni kelgusida sintez qilish uchun o'qitish namunalarining qismlariga tasodifiy o'zgarishlar kiritish jarayoni nazarda tutiladi. Payvandlash diagrammasi 12 - rasmda ko'rsatilgan.

12- rasm. Torbalama jarayonining blok diagrammasi.

Ushbu usulning kamchiliklari quyidagilarni o'z ichiga oladi:

1. O'quv namunasining ko'p sonli to'plamlarini yaratish zarurati bilan bog'liq qo'shimcha hisoblash xarajatlari.

2. Misollarning pastki qismlari bir-biridan farq qiladi, lekin mustaqil emas, chunki ularning barchasi bir xil to'siqqa asoslangan.

3. Algoritmning ishlashi uchun tuning va o'rganish uchun katta hajmdagi ma'lumotlar kerak.

Quyidagi neyron tarmoqlardan olingan signallarni birlashtirishning quyidagi mexanizmini ko'rib chiqing - ekspert xulosalari. 13-rasmda ko'rsatilgan tarmoq konfiguratsiyasini ko'rib chiqing. Bunday tarmoq ekspert xulosalari deb ataladi va o'qituvchi bilan birgalikda o'qitilgan Q modullaridan iborat va ekspertlarni chaqiradi. Ekspertlar, har bir ekspert ma'lum bir sohada muammoni hal qilish uchun sozlangan versiyasi asosida quriladi. Elementni integratsiyalashgan echimlarga shluzi tarmog'i deyiladi. Gateway tarmog'i ko'rsatilgan kirish ta'sirini optimallashtirish mumkin bo'lgan ekspertni belgilaydi.

13- rasm. Ekspertlarning xulosalari modelining blok diagrammasi.

Gateway tarmog'ining neyronlari chiziqli emas va ularning faollashtirish funksiyasi quyidagicha tavsiflanadi:

bu yerda uk kirish vektorining skaler mahsuloti va gateway tarmog'ining neyron sinaptik vaznlarining vektori (i = 1, ..., m, m - kirish signalining vektorining o'lchami) hisoblanadi. Natijada, bu eksponeneyro tarmoqial konvertatsiya logistika funktsiyasini bir nechta uskuna uchun umumlashtirishdir. Shluzi tarmog'i, qanday ishlash uchun ekspertni kerakli natijaga erishish uchun ushbu kiritish ta'sirini jo'natishi kerakligini ko'rsatadigan ehtimollik qiymatlarini keltirib chiqaradi.

Birlashtiruvchi mashina ierarxiyaning ikki darajasiga mo'ljallangan bo'lishi mumkin. 14-rasmda keltirilgan model ikki darajali ierarxiyaga ega. Axborot strukturasi kirish maydonini bir qator ichki pastki maydonlarga ajratadi va axborot bir necha shluzi tarmoqlari nazorati ostida ekspertlar o'rtasida taqsimlanadi, ular murakkab ierarxik tuzilishga ega.

Algoritmning kamchiliklari quyidagilar:

1. Algoritm manba maydonini hududlarga bo'laklashda hisoblash resurslarini talab qiladi. Ko'p sonli hududlarni yaratish imkoniyati paydo bo'lib, bu kosmosning ortiqcha klasterlanishiga olib keladi va asosiy ekspertlar katta guruhini tashkil qiladi.

2. Ierarxik modellashtirish va o'qitishning murakkabligi. Ko'pincha, o'quv jarayoni stokastik gradyanga asoslanadi. Ushbu usul tajribali og'irliklarni, birinchi va ikkinchi darajali shluzi tarmoqlarini sozlashga asoslanadi, bu butun neyron tarmoq mexanizmini murakkab optimallashtirish uchun murakkab algoritmga olib keladi. Ekspertlarning fikrlarini birlashtirish uchun ularning asosiy algoritmlari va ularning kamchiliklari 2-jadvalda keltirilgan. Ushbu maqolada aniqlangan zaifliklarni bartaraf etish uchun loyqa mantiq apparatiga asoslangan ekspertlarning malakasini baholash uchun Fukushima, N-adalina va kvadratik neuron neyronlari kompleksiga asoslangan neyron tarmoq muta-xassisi tomonidan signallarni oldindan sinash uchun tizim bilan birgalikda foydalanish tavsiya etiladi. Ekspertlarning signallari asosida qaror qabul qiladigan oxirgi tuzilma sifatida sigma-pi neyron tarmog'idan foydalanish tavsiya etiladi.

14-rasm. Ekspertlarning fikrlarining ierarxik aralashmasi.

2- jadval. Ekspertlarning fikrlarini birlashtirish uchun algoritmlarning xususiyatlari.

Texnologiya	Qabul qilish metodikasi natijalar	Kamchiliklari
Statik strukturalar
O’rtacha guruhlanish	Neyron tarmoq ekspertlari chiqish signallarining liniyali kombinatsiyasi	1.Natijaning to'g'ri qaramligi Ekspertlar malakasini belgilaydi. 2.Buning natijasida algoritmning murakkabligini oshirishda halaqit shovqinlarni tuzatish algoritmlarini qo'llash.
Ko’tarilish	Har bir yangi ekspertlar ilgari natijalarga asoslangan holdaquriladi.	1.Ko'proq misollarda mavjud ta'lim namunasi. 2.Ekspertlar qo'mitasining yomonlashuvi murakkab bo'lgan samarasiz neyron tarmoq tuzilishiga aylanadi, bu esa katta miqdorda hisoblash resurslarini talab qiladi 3.Ekspertlarning eng so'nggi modellari eng "murakkab" misollarda o'qitiladi.
Yig’ish	Meta-ta'lim kontseptsiyasini qo'llash	1.Nazariy tahlilning murakkabligi ko'plab ketma-ket modellarga bog'liq. 2.Metamodelning darajasi kengaymoqda, bu esa hisoblash resurslarining tez kamayib ketishiga olib kelishi mumkin.
Bog'lanish	Ko'plab Ekspertlarni tayyorlash namunasi asosida to'plash va keyinchalik ekspert xulosalarini birlashtirish	1.O'quv namunasining ko'plab to'plamlarini yaratish zarurati bilan bog'liq qo'shimcha hisoblash xarajatlari. 2. Misollarning pastki qismlari bir-biridan farq qiladi, lekin mustaqil emas, chunki ularning barchasi bir xil to'siqqa asoslangan. 3. Algoritmni boshqarish uchun tuning va o'rganish uchun katta hajmdagi ma'lumot kerak.
Dinamik struktura
Aralashtirilgan eksperlar fikrlari	Shlyuz tarmog'idan foydalanish orqali ekspert bilimlarini birlashtirish	1. Algoritm shunga o'xshash bo'linish uchun hisoblash resurslarini talab qiladi joy. Ekspertlarning katta guruhini yaratadi. 2. Ierarxik modelni tayyorlash va tuzish kompleks hisoblash jarayonini ifoda-laydi. Stokastik gradyanga asoslangan o'quv jarayoni tajriba og'irliklari, shluzi tarmoqlarini moslashishga asoslangan birinchi va ikkinchi darajali, bu butun neyron tarmoq mexanizmini murakkab optimallashtirish murakkablashadi.
Ierarxik birlashgan	Ierarxik shlyuz tarmoqlarini qo'llash orqali ekspert bilim-larini birlashtirish Ierarxik shlyuz tar-moqlarini qo'llash orqali ekspert bilim-larini birlashtirish