Regulyarizatsiya-qaytajihozlashnibartarafetishningsamaraliusuli.Haqiqiyma'lumottaqsimotinibilmasligimizsababli,ampiriktaqsimotgaasoslanganampirik xavf qayta o'qitishga moyil. Shunday qilib, eng yaxshi strategiya, albatta,ta'lim ma'lumotlariga juda mos keladi va keyin modelni yaxshi umumlashtirishiuchun Regulyarizatsiyausulini qo'llaydi. L2 parametrini tartibga solish, Dropoutbilan birga, mashinani o'rganishda eng ko'p ishlatiladigan regulyarizatsiyausullarihisoblanadi.
9.2. Regulyarizatsiyauchunishlatiladiganba'ziusullar
L2 parametrini regulyarizatsiya: shuningdek, vazn yo'qotish sifatida hamtanilgan, bu usul L2 me'yorini og'irlik stavkalarini boshlang'ich nuqtaga olib kelishuchun maqsadli funkciyaga qo'shib qo'yadi. Bu usul noldan bir xil nisbatda barchaog'irliklari kesadi-da; ammo, bu aniq nol bo'lishi uchun hech qanday vazn bor hechqachon.
L1(Lasso)parametriniregulyarizatsiya:bufunktsiyanitanlashusulisifatidaqaralishimumkin,chunki;l2nitartibgasolishdanfarqlio'laroq,ba'ziog'irliklar aslida nolga teng bo'ladi. L1 me'yorini maqsadli funktsiyaga qo'shib,barchaog'irliklarnibir xilmiqdordakamaytiradi.
Chiqish: otpusk qoplarga qadoqlash texnikasi bir yondashuv sifatida qaralishimumkin. Har bir yinelemede tasodifiy ravishda har bir qatlamda ba'zi neyronlarnio'chiribqo'yamizvabuneyronlarnito'g'ridan-to'g'rivateskaritarqatishdaishlatmaymiz.Buneyrontarmog'iniog'irliklarnitaqsimlashgavamuayyanneyronlarga e'tibor bermaslikka olib keladi, chunki u har bir iteratsiyada qaysineyronlarning paydo bo'lishini hech qachon bilmaydi. Shunday qilib, bu har biriteratsiyabo'yichaturlimodellarnio'qitishsifatidaqaralishimumkin.Bundantashqari, biz har bir iteratsiya bo'yicha bir nechta neyronlarni olib tashlaganimizsababli, bu tarmoqning pasayishiga olib keladi, bu esa o'z navbatida tarmoqnisoddalashtirishni anglatadi.
Kattalashtirish: ta'lim misollarini ishlatib, noto'g'ri ma'lumotlarni qo'shing vatasvirni tanib olishda o'lchovni o'zgartirish va tasvirni aylantirish kabi buzilishlarniqo'shing. Fikr, yaxshi ishlashga erishish uchun modelni ko'proq ma'lumotlargao'rgatishhardoimhamyaxshi.Shuniesdatutingki,ilg'ormisollarmodelgamustaqilmisollarsifatidajudako'pma'lumotqo'shmaydi,ammobuko'proqma'lumotni yig'ish mumkin bo'lmagandahalihamto'g'rialternativ.
Erta to'xtash: bu usul xarajat funkciyasini optimallashtirishga va uni tartibgasolishgaharakatqiladi,shuninguchunukamroqumumlashmaxatosigaega.Bu har bir iteraciya bo'yicha tasdiqlash xatosini yozib olish uchun ishlaydi. Tekshirishxatosi yaxshilansa, biz parametrlarning nusxasini saqlaymiz va optimallashtirishalgoritmi tugamaguncha davom etamiz. Hisoblash vaqti va resurslari biz uchunmuammo bo'lsa,buyaxshiusul.
Do'stlaringiz bilan baham: |