Mahsuliy produksiya ekspert tizimlari taraqqiyoti va tatbiqlari

LDA model: Bu erda biz LDA ning dastlabki tavsifida bo'lgani kabi bir xil yozuv va bir xil plastinka diagrammasidan (1a-rasm) foydalanamiz. K - mavzular soni, N - hujjatdagi so'zlar soni, V - butun korpus bo'yicha lug'at hajmi va M - korpusdagi hujjatlar soni bo’lsin. Oldingi mavzulari va mavzu so'zlarining taqsimotini hisobga olgan holda, yashirin mavzu tuzilishi bo'yicha birgalikda taqsimot , so'z mavzusi topshiriqlari z va hujjatlardagi kuzatilgan so'zlar w-bias tomonidan beriladi:

LDA ga variatsion yaqinlashish: LDAda xulosa chiqarish va z bo'yicha taqsimotni taxmin qilishni talab qiladi. Bayes qoidasidan foydalanib, bu posterior quyidagicha yozilishi mumkin:

Ko’p qatlamli neyron to’rlarining turli sxemalari.
Neyronning neyron tarmog'ida qanday joylashishini aniqlagandan so'ng, ularni ushbu tarmoqda qanday tartibga solish va ulash kerakligini tushunish qoladi. Qoida tariqasida, ko'pchilik neyron tarmoqlarda deb ataladigan kirish qatlami , u faqat bitta vazifani bajaradi - kirish signallarini boshqa neyronlarga taqsimlash. Bu qatlamning neyronlari hech qanday hisob-kitoblarni amalga oshirmaydi. Aks holda, neyron tarmoqlar quyidagi asosiy toifalarga kiradi.
Bir qatlamli neyron tarmoq (ingliz. Single-layer Neural network ) - kirish qatlamidan signallar darhol chiqish qatlamiga uzatiladigan, signalni o'zgartiradigan va darhol javob beradigan tarmoq hisoblanadi.
O'ng tomonda taqdim etilgan bir qatlamli neyron tarmog'ining diagrammasidan ko'rinib turibdiki, signallar kirish qatlamiga (neyron tarmoq qatlami deb hisoblanmaydi) keladi va keyin signallar oddiy neyronlarning chiqish qatlamiga taqsimlanadi. Kirish qatlamining neyronidan chiqish qatlamining neyroniga qadar har bir chekkada raqam mos keladigan ulanishning og'irligi yoziladi.

Ko'p qatlamli neyron tarmoq (ingliz. Multilayer neural network ) - kirish, chiqish va ular orasida joylashgan neyronlarning bir (bir necha) yashirin qatlamlaridan iborat neyron tarmoq. Kirish va chiqish qatlamlariga qo'shimcha ravishda, bu neyron tarmoqlarda oraliq, yashirin qatlamlar mavjud. Bunday tarmoqlar bir qatlamli neyron tarmoqlarga qaraganda ancha ko'proq imkoniyatlarga ega, ammo yashirin qatlam neyronlarini o'rgatish usullari nisbatan yaqinda ishlab chiqilgan.
Neyronlarning yashirin qatlamlari ishini yirik zavod ishi bilan solishtirish mumkin. Zavoddagi mahsulot (chiqish signali) dastgohlarda bosqichma-bosqich yig'iladi. Har bir mashinadan keyin ba'zi bir oraliq natija olinadi. Yashirin qatlamlar ham kirish signallarini ba'zi oraliq natijalarga aylantiradi.

“Oldinga” (besleme) neyron tarmog'i (ing. Feedforward neural network) - sun'iy neyron tarmoqlari bo'lib, ularda signal kirish qatlamidan chiqishga qat'iy ravishda tarqaladi . Signal teskari yo'nalishda tarqalmaydi. Yuqorida tavsiflangan barcha tarmoqlar, ta'rifdan ko'rinib turibdiki, oldinga uzatiladigan tarmoqlar edi. 
Bunday tarmoqlar keng qo'llaniladi va muammolarning ma'lum bir sinfini muvaffaqiyatli hal qiladi: bashorat qilish, klasterlash va tanib olish. Biroq, neyron tarmoqlardagi signal teskari yo'nalishda ham ketishi mumkin.