Texnologiya: Ekspert tizimi mumkin bo'lgan axborot tashuvchilari va yorliqlash texnologiyalari qoidalariga asoslangan holda kombinatsiyalarni cheklaydi. Bu usul asoslangan.
Tashkilot: Ekspert tizimining natijalari oshirish maqsadida "mutaxassis bo'lmaganlar" tomonidan tushunarli bo'lishi kerak va foydalanuvchining tizim ishlashini qabul qilishi juda muhim.
Loyihalashda ishlab chiqilgan ekspert tizimidan foydalaniladi va ishlab chiqish bo'limi, materiallarni yorliqlashni tanlashga yordam beradi. Dizayn muhandisi ekspert tizimini ishga tushirishdan oldin, taxminiy eskiz va yangi komponentning bir qismi kompyuter yordamida tuzilgan Dizayn (SAPR) dasturiy ta'minotiga murojaat qiladi. Ushbu qo'pol eskiz bilan, anavtomatik uch o'lchovli geometrik va atributga asoslangan Siemens Geolus Search yordamida o'xshashlikni qidirish dasturini amalga oshiriladi. Foydalanuvchi tekshirilishi kerak bo’lgan mos yozuvlar qismini oldindan belgilaydi va ma'lumotlar bazasini taqdim etadi. Boshqa bir xil variantlarni ham tanlash mumkin, juda o'xshash yoki o'xshash qismlarni qidirishni takomillashtirish uchun. Qidiruv jarayoni muvaffaqiyatli bo'lsa, Geolus Search qaytadi. Oxirida dizayn/ishlab chiqish jarayoni, dizayner ekspert tizimini ishga tushiradi. Oldingi qidiruv jarayoni orqali ma'lumotlarni kiritish uchun harakat ekspert tizimini tarixiy qismlardan foydalangan holda kamaytirish mumkin va boshqa loyihalardan mahsulotga oid ma'lumotlarni saqlab qo’yadi. Ekspert tizimi dialog oynasini oldindan to'ldirish uchun mahsulotga xos ma'lumotlarni oladi va natijada o'xshash komponentning tarixiy ma'lumotlari bilan component Geolus qidiruv dasturiga murojaat qilinadi. Oldindan to'ldirilgan kiritish oynasi shunday ko'rsatiladi. Dizayner kiritilgan ma'lumotlarni tekshirishi va kerak bo'lganda o'zgartirishlar kiritishi mumkin. Keyin dizayner kiritilgan o’zgarishdan qoniqsa, u markalashni boshlashi mumkin tanlash jarayoni (bilimlar bazasi va bilimlarni qayta ishlash komponent). Tushuntirish komponenti dizaynerga imkon beradi u ishlab chiqarishdan oldin ekspert tizimi tomonidan qo'llaniladigan qoidalarni tekshirib, ishlab chiqarishda foydalanish uchun markalaydi.
Hamkorlik tizimlari. Biz kooperativ neyron tarmoqlari (CoNN) deb ataladigan yangi yondashuvni taklif qilamiz, u avval berilgan mustaqillik tuzilmasidan foydalanadigan yashirin tasvirlarni olish uchun hamkorlikda o'qitilgan neyron tarmoqlar to'plamidan foydalanadi. Model eksponensial oila taqsimotiga asoslangan an'anaviy grafik modellarga qaraganda ancha moslashuvchan, ammo an'anaviy chuqur tarmoqlarga qaraganda ko'proq domenga xos oldingi tuzilmani yoki variatsion avtokoderlarni o'z ichiga oladi.
Ramka juda umumiy va har qanday grafik modelning mustaqil tuzilishidan foydalanish uchun ishlatilishi mumkin. Biz mashhur Latent Dirichlet Allocation (LDA) modelining mustaqillik tuzilishini CoNNsLDA kooperativ neyron tarmog'iga o'tkazishimiz mumkinligini ko'rsatib, texnikani tasvirlaymiz. Nazorat ostidagi matnlarni tasniflash vazifalari bo'yicha CoNN-sLDA ning empirik bahosi oldingi mustaqillik tuzilmasining nazariy afzalliklari amalda amalga oshirilishi mumkinligini ko'rsatadi - biz eng zamonaviy qurilmalar bilan solishtirganda qiyin MultiSent ma'lumotlar to'plamida xatolikni 23% ga kamaytirishni ko'rsatamiz.
Neyron tarmoqlar hujjatlarni mavzuga oid sinflarga ajratish uchun zarur bo'lgan lingvistik bilimlar kabi murakkab tushunchalarni o'rganish uchun past darajadagi echimni taklif qiladi. Biroq, neyron tarmoqlari odatda juda umumiy tuzilishdan boshlanadi, har bir daraja bir xil, takrorlanuvchi ulanishlar orqali boshqa qatlamlarga ulangan bir qator funktsional ekvivalent neyronlardan iborat. Muammoli sohada mavjud bo'lgan har qanday tuzilmani o'qitish misollaridan o'rganish va og'irliklar sifatida kodlash kerak. Amalda, ba'zi domen tuzilishi ko'pincha oldindan ma'lum; bunday hollarda ushbu domen tuzilishini hisobga olgan holda tarmoqni oldindan loyihalash maqsadga muvofiqdir. Ushbu mavzuda biz yangi turdagi neyron o'rganish mashinasiga ma'lum turdagi mustaqillik tuzilmalarini kiritish imkonini beruvchi yondashuvni taqdim etamiz.
Taklif etilayotgan yondashuv "Kooperativ neyron tarmoqlari" (CoNN - “Cooperative Neural Networks”) deb ataladi. Ushbu yondashuv neyron tarmoqlar to'plamini qurish orqali ishlaydi, ularning har biri ehtimollik taqsimotining o'rnatilishini chiqarishga o'rgatilgan.
Tarmoqlar iterativ ravishda yangilanadi, shunda har bir o'rnatish boshqa tarmoqlarning o'rnatilishi va o'quv ma'lumotlariga mos keladi. Ehtimoliy grafik modellar singari, vakillik mustaqil komponentlarga ajratiladi. Shartli ehtimollik taqsimotlari (masalan, eksponensial oila) bilan chegaralangan ehtimolli grafik modellardan farqli o'laroq, CoNNlar chiziqli bo'lmagan neyron tarmoqlar bilan ifodalangan kuchli umumiy taqsimotlardan foydalanishi mumkin. Olingan yondashuv bizga ma'lum mustaqillik tuzilmasidan, shuningdek, raqobatdosh yondashuvlarga nisbatan aniqlikni oshirish uchun neyron tarmoqlarning ekspressiv kuchlaridan foydalanadigan modellarni yaratishga imkon beradi.
Biz mustaqillik strukturasini mashhur Latent Dirichlet Allocation (LDA) modelidan kooperativ neyron tarmoqlar to'plamiga qanday o'tkazish mumkinligini ko'rsatib, kooperativ neyron tarmoqlariga umumiy yondashuvni ko'rsatamiz. Olingan modelni CoNN-sLDA deb ataymiz. Kooperativ neyron tarmoqlari oldinga uzatish tarmoqlaridan farq qiladi, chunki ular yashirin ko'rinishdagi o'zgaruvchilar bo'ylab izchillikni ta'minlash uchun orqaga tarqalishdan foydalanadilar. CoNN-sLDA LDA-ga nisbatan yaxshilanadi, chunki u hujjatlar mavzulari uchun yanada murakkab taqsimotlarni va so'zlarni taqsimlash bo'yicha yaxshiroq umumlashtirishni tan oladi. CoNN-sLDA umumiy neyron tarmoq klassifikatoridan ham yaxshiroqdir, chunki faktorlangan ko'rinish mavzular, so'zlar va hujjatlar o'rtasida tabiiy aloqaga ega bo'lgan izchil yashirin xususiyatni namoyish etishga majbur qiladi. Bizning CoNN-sLDA modelimiz ehtimollik va neyron tarmoqqa asoslangan zamonaviy alternativalardan ustun turishini ko'rsatib, kooperativ neyron tarmoqlarining nazariy afzalliklari amalda amalga oshirilishini empirik tarzda ko'rsatamiz. Biz ta'kidlaymizki, bizning misolimiz LDA ga asoslangan bo'lsa-da, CoNN yondashuvi umumiydir va boshqa grafik modellar, shuningdek, mustaqillik tuzilishining boshqa manbalari (masalan, fizika yoki biologiyaga asoslangan cheklovlar) bilan ishlatilishi mumkin.
Bizning nazorat ostidagi matnni tasniflash misolida biz hujjat matnlari boʻyicha taqsimotni hujjat mavzusi ehtimoli va soʻz mavzusi ehtimolliklariga omil qoʻyish orqali yashirin dirixlet ajratish (LDA) strukturasini birlashtiramiz. Ushbu tuzilma, tabiiyki, barcha hujjatlarda umumiy bo'lgan mavzular mavjudligi va hujjatlar ushbu mavzularning aralashmasini so'z tanlash orqali mustaqil ravishda ifodalaydi degan g'oyani amalga oshiradi. Ikkinchidan, mustaqillik strukturasidan xulosalar tenglamalari to'plami olinadi. Keyinchalik, variatsion yaqinlashishda ishtirok etuvchi ehtimollik taqsimotlari, shuningdek, xulosa tenglamalari, ularning funktsional shaklidagi cheklovlarni kamaytirish uchun Hilbert fazosiga tushiriladi. Nihoyat, ushbu xaritalangan Gilbert-kosmik tenglamalari neyron tarmoqlar to'plami (har bir cheklov uchun bitta) bilan yaqinlashadi va Hilbert fazosida xulosa qilish ushbu tarmoqlarni takrorlash orqali amalga oshiriladi. Biz kooperativ neyron tarmoqlari birikmasini chaqiramiz. LDA kooperativ neyron tarmog'i sifatida Yashirin Dirichlet taqsimoti yoki "CoNN-sLDA" nazorati ostida bo’ladi.