1. Sun’iy intelekt texnologiyalari

30.Neyron to'rini o'qitish algoritmlari.
Gradientni tushirish (https://www.neuraldesigner.com/learning/tutorials/training-strategy#GradientDescent) bo'yicha o'qitish algoritmining jiddiy kamchiliklari bor, chunki uzun, tor vodiy tuzilmalariga ega bo'lgan funktsiyalar uchun ko'p iteratsiyalarni talab qiladi. Darhaqiqat, pastga tushish gradienti yo'qotish (https://www.neuraldesigner.com/learning/tutorials/training-strategy#LossIndex) funktsiyasi eng tez pasayadigan yo'nalishdir, ammo bu eng tez yaqinlashuvni keltirib chiqarmaydi.
3. Konjugat gradienti (CG)
Konjugat gradient usulini gradient tushishi va Nyuton usuli o'rtasidagi oraliq narsa deb hisoblash mumkin . Bu gradient tushishi bilan bog'liq odatda sekin konvergentsiyani tezlashtirishga undaydi. Bu usul, shuningdek, Nyuton usuli talab qilganidek, Hessian matritsasini saqlash, baholash va inversiya bilan bog'liq bo'lgan ma'lumotlar talablaridan qochadi.
Konjugat gradient o'qitish algoritmida qidiruv konjugat yo'nalishlari bilan birga amalga oshiriladi. Ular odatda gradient tushish yo'nalishlariga qaraganda tezroq konvergentsiyani hosil qiladi. Ushbu trening yo'nalishlari Hessian matritsasi bilan bog'liq.
Trening yo'nalishi vektorini d belgilaymiz. Keyin, boshlang'ich parametr vektoridan boshlabw(0)w(0) va boshlang'ich ta'lim yo'nalishi vektorid(0)=−g(0)d(0)=−g(0), konjugat gradient usuli o'qitish yo'nalishlari ketma-ketligini quyidagicha tuzadi:
d(i+1)=g(i+1)+d(i)⋅g(i),d(i+1)=g(i+1)+d(i)⋅g(i),
uchuni=0,1,…i=0,1,….
Bu yerdaggkonjugat parametr deb ataladi va uni hisoblashning turli usullari mavjud. Eng ko'p ishlatiladigan ikkitasi Fletcher va Reeves va Polak va Ribiere tufayli. Barcha konjugat gradient algoritmlari uchun o'quv yo'nalishi vaqti-vaqti bilan gradientning salbiy tomoniga qayta o'rnatiladi.


25.Faktor tahlil
Faktor tahlili- kovariatsiya yoki korrelyatsiya matritsalarining tuzilishini o'rganish orqali kuzatilgan o'zgaruvchilar to'plamining o'lchamini baholash usullarini birlashtirgan ko'p o'zgaruvchan statistik tahlil bo'limi. Boshqacha qilib aytganda, usulning vazifasi - kuzatilgan o'zgaruvchanlikni aniqlaydigan haqiqiy ko'p sonli belgilar yoki sabablardan ma'lumotni minimal yo'qotish bilan eng muhim o'zgaruvchilarning (omillarning) kichik soniga o'tishdir. Usul dastlab psixologiya va antropologiya muammolarida (19-20-asrlar oxirida) paydo bo'lgan va ishlab chiqilgan, ammo hozir uni qo'llash doirasi ancha kengroq.